세계 최초 'AI 변호사', FTC에 사기 판정...벌금 2.6억 부과

[박찬 기자]

(사진=셔터스톡)

세계 최초로 인공지능(AI) 변호사를 개발했다고 홍보한 두낫페이(DoNotPay)가 사기성 과대광고로 벌금을 물게 됐다. 이는 AI 기술을 기만적이고 불공정한 방식으로 사용하거나 판매한 회사에 대한 미국 규제당국의 단속에 따른 것이다.

로이터는 25일(현지시간) 미 연방거래위원회(FTC)가 기만적이고 불공정한 방식으로 AI 기술을 홍보해 소비자들을 오도했다는 혐의로 두낫페이 등 5개 업체에 대한 단속 조치를 발표했다고 보도했다.

리나 칸 FTC 위원장은 "AI 도구를 사용해 사람들을 속이거나, 오도하거나, 사기를 치는 것은 불법"이라며 "FTC의 집행 조치는 AI가 법에서 예외가 될 수 없음을 분명히 보여준다"라고 밝혔다.

기업들이 새로운 기술에 대한 과대광고를 이용함에 따라 AI와 관련된 허위 주장이 시장에서 점점 더 흔해지자, 규제당국이 단속에 나선 것이다. 이들 기업의 제품과 과대광고가 공정한 시장 경쟁을 해친다는 판단에서다.

두낫페이는 지난해 2월 캘리포니아 법정에 세계 처음으로 AI 변호를 시도할 계획이라고 홍보하며 유명해졌다. 하지만 주 변호사협회의 압박으로 철회한 바 있다.

FTC도 이는 과대광고라고 주장했다. 변호사 없이도 AI가 고소장을 접수할 수 있고 바로 사용할 수 있는 법률 문서를 생성할 수 있다고 홍보했지만, AI 서비스의 결과물이 실제 변호사 수준과 동일한지 여부를 검증하지 않았다는 것이다.

두낫페이 측은 서비스가 오래 전에 중단됐다는 이유 등을 들며 이 부분에 대한 잘못을 인정하지 않았다. 하지만 9만3000달러(약 2억6000만원)의 벌금을 내고 2021~2023년 서비스 가입자에게 법률 서비스 기능의 한계에 대한 공지를 제공하는 것으로 FTC와 합의했다.

FTC는 "뒷받침할 증거 없이 전문 서비스를 대체할 수 있다고 주장하는 것을 금지할 것"이라고 밝혔다.

소송 대상이 된 또 다른 기업인 라이터(Rytr)는 고객 리뷰를 대신 써주는 AI 서비스를 제공한다. FTC는 라이터의 AI 서비스가 "이용자의 제한적인 입력만으로도 구체적이고 자세한 리뷰를 생성했다"라며 "제품 구매 결정을 내리기 위해 리뷰를 살펴보는 잠재적 소비자들을 기망하고 오도할 수 있는 거짓 정보들이 대거 포함돼 있었다"라고 밝혔다. 이 회사는 합의에 따라 리뷰 대필 서비스를 중단할 예정이다.

나머지 3건은 AI가 온라인 매장을 통해 소득을 창출하는 데 도움이 될 수 있다고 주장하는 기업 어센드 이컴(Ascend Ecom), 이커머스엠파이어빌더(EEB), FBA 머신 등이다. FTC는 이들이 연방 법원 소송 진행 도중 사업체 운영을 중단했다고 전했다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>