영국서 AI 챗봇 오류로 인한 '보험 상품' 등장

[박찬 기자]

(사진=셔터스톡)

인공지능(AI) 챗봇의 오류로 인한 피해를 보상하는 보험 상품이 출시됐다. AI 활용이 확산되면서 예상치 못한 리스크에 대비하려는 기업 수요가 커지는 가운데, 보험업계도 이에 대응한 신시장 개척에 나선 것이다.

파이낸셜 타임스는 11일(현지시간) 영국의 대표적 보험 그룹인 로이드 오브 런던의 보험사들이 AI 도구의 오작동으로 인한 기업 손실을 보장하는 새로운 보험 상품을 출시했다고 보도했다.

이는 AI 기술 확산에 따른 환각이나 오류로 인한 법적 분쟁 가능성이 커지면서, 보험업계가 새로운 리스크 대응 수단으로 주목받고 있다는 증거라고 소개했다.

이번 보험 상품은 미국 스타트업 아르밀라가 개발했으며, 실리콘밸리 액셀러레이터 Y 콤비네이터의 지원을 받았다. 아르밀라의 보험은 챗봇이나 자동화된 AI 서비스가 고객에게 잘못된 정보를 제공해 피해를 입혔을 경우, 제3자에게 배상해야 할 손해금과 법적 비용을 보장한다.

카르틱 라마크리쉬난 아르밀라 CEO는 "많은 기업이 AI 도입을 주저하는 이유는 예측 불가능한 오류에 대한 우려 때문"이라며 "이번 보험 상품이 AI 기술 채택을 더욱 가속화할 것"이라고 밝혔다.

로이드 보험사 중 하나인 초서의 톰 그레이엄 파트너십 책임자는 "AI 성능이 지나치게 불안정하다고 판단되면 보험 인수에 나서지 않을 것"이라며 "위험 평가에 따라 엄격히 선별해 보장 대상을 정하겠다"라고 설명했다.

실제로 AI 오작동 사례는 여러차례 논란을 일으킨 바 있다. 지난 1월에는 영국 은행 버진 머니의 챗봇이 고객에게 '버진(virgin)'이라는 단어 사용을 문제 삼으며 훈계해 논란이 됐고, 택배업체 DPD는 AI 고객응대 챗봇이 욕설을 하자 해당 기능을 중단하기도 했다. 캐나다 항공사 에어캐나다는 AI 챗봇이 '존재하지 않는 할인'을 안내, 고객에게 할인된 가격을 적용해야 한다는 법원 판결도 받았다.

일반적인 기술 책임 보험에서도 AI 관련 손해가 일부 보장되지만, 일반적으로 보상 한도가 매우 낮다. 500만달러 한도의 일반 보험도 AI 손해에는 2만5000달러(약 3500만원) 정도만 보장하는 경우가 많다. 반면, 아르밀라의 상품은 초기 성능 대비 AI의 정확도가 현저히 낮아졌다고 판단되면 보상이 이뤄진다.

아르밀라는 보험 인수 전 AI 모델의 성능을 사전에 평가하고, 이후 성능 저하가 확인되면 손실을 보전하는 방식이라고 설명했다. 예를 들어, 챗봇이 초기에는 95% 정확도로 응답했지만 이후 85% 수준으로 하락하면 보상 대상이 될 수 있다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>