교황, “AI 챗봇에 지나친 감정 의존 경계해야⋯규제 필요”

‘세계 소통의 날’ 앞두고 메시지
“AI 생성 콘텐츠 명확히 구분해야”
기술, 인간 대체 아닌 섬겨야”

레오 14세 교황.

레오 14세 교황이 24일(현지시간) 인공지능(AI) 챗봇이 단순한 친구를 넘어 정서적으로 의존하는 것을 경계해야 한다는 메시지를 전했다. 또 AI와 과도한 감정적 유대를 형성하는 것을 방지하기 위해 규제가 필요하다고 촉구했다.

CNN에 따르면 교황은 5월 17일로 예정된 가톨릭 교회의 제 60차 ‘세계 소통의 날’을 앞두고 발표한 기념 메시지에서 “우리가 정보 피드를 스크롤할수록 지금 상호작용하고 있는 대상이 다른 인간인지, 봇인지, 아니면 가상 인플루언서인지 구분하기가 점점 더 어려워지고 있다”고 지적했다.

이어 “항상 곁에 있고 언제나 이용 가능한 데다 지나치게 다정하게 설계된 챗봇은 사람들의 감정 상태를 은밀하게 설계하는 존재가 될 수 있으며 그 결과 개인의 친밀한 영역을 침범하고 점유할 수 있다”고 비판했다.

교황은 “적절한 규제는 사람들이 챗봇에 감정적으로 집착하는 것을 막고 허위·조작·오해를 불러일으키는 콘텐츠의 확산을 억제해 기만적인 모방으로부터 정보의 온전함을 지킬 수 있다”고 제안했다.

언론인을 포함한 인간이 만든 콘텐츠와 AI가 생성한 콘텐츠 사이의 명확한 구분을 촉구하기도 했다. 그는 “언론인과 기타 콘텐츠 제작자의 저작권과 주권적 소유권은 반드시 보호되어야 한다”고 강조했다.

이와 함께 미디어 및 커뮤니케이션 기업들에게는 “몇 초 더 많은 주목을 얻기 위해 알고리즘을 사용하는 것이 자신들의 직업 가치를 배반하는 일이 되어서는 안 된다”고 경고했다.

이 밖에도 교황은 “AI 등 기술이 인간의 존엄성을 대체하거나 약화하지 않고 사람을 섬겨야 한다”다고 강조하기도 했다.

역대 교황들과 비교했을 때 레오 14세는 디지털 세계에 더 적극적으로 참여했다. 주교 및 추기경 시절에는 엑스(X·옛 트위터) 계정을 운영했으며 교황이 된 후에도 애플워치나 그와 유사한 스마트워치를 착용하는 모습이 포착되기도 했다. 선출된 직후에는 AI를 자신의 교황권 수행의 중점 과제로 삼고 싶다고 밝혔으며 발전하는 기술을 위한 윤리적 틀의 필요성을 지속적으로 역설해 왔다.

[이투데이/이진영 기자 (mint@etoday.co.kr)]

▶프리미엄 경제신문 이투데이 ▶비즈엔터

이투데이(www.etoday.co.kr), 무단전재 및 수집, 재배포금지