죽은 사람 재현하는 AI '디지털 유령', 위험성 없을까?

[AI리포터]

AI [사진: 셔터스톡]

[디지털투데이 AI리포터] AI 기술의 발전으로 인간처럼 대화하는 챗봇, 이미지와 영상 생성 기술 등이 등장하며 '디지털 유령'이라는 비즈니스 모델이 생겨나고 있다. 5일 온라인 매체 기가진이 이러한 기술의 위험성에 대해 알아봤다.

디지털 유령은 죽은 사람의 SNS 내용이나 이메일, 문자메시지, 음성 녹음 데이터 등을 활용해 그 사람과 대화하는 듯한 '디지털 인격'을 만드는 것이다. 이러한 디지털 유령 비즈니스는 다양한 형태로 등장하고 있다.

그러나 호주 모나쉬 대학교의 아리프 페르다나(Arif Perdana)에 따르면 이 디지털 유령은 윤리적, 심리적 문제도 지니고 있다. 이는 가까운 사람을 잃은 슬픔을 덜어줄 수 있지만, 어떤 사람들에게는 오히려 슬픔을 악화시킬 수 있다는 지적이다.

디지털 유령은 설계 안전 기준도 충족하지 못한다. 예를 들어, 크리에이터가 자신의 글과 그림이 AI 학습에 사용되거나 유명인의 딥페이크가 오용될 경우 당사자가 손해배상 소송을 제기할 수 있다. 그러나 죽은 사람은 AI에 의해 학습되는 것을 거부할 수 없기 때문에 동의 여부에 대한 문제가 있다는 설명이다.

사전 동의가 있더라도 여전히 오용 및 데이터 조작의 위험이 있다. 디지털 유령은 기업이 상품이나 서비스를 홍보하는 데 사용하거나, 고인이 지시하지 않은 생각과 행동을 전달할 위험이 있다는 주장이다.

아리프 페르다나는 "우리는 빠르게 성장하는 기술에 대한 우려를 해소하기 위해 법적인 틀을 개선할 필요가 있다"고 전했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>