SNS에 AI챗봇 붙였더니 인간인척 답변 “자녀가 있어요” 곳곳서 혼선

메타 “AI 생성 콘텐츠 라벨 부착”

메타 AI 이미지생성기 (출처=메타)

소셜미디어에 인공지능(AI) 챗봇이 잇따라 탑재되면서, 곳곳에서 혼선이 벌어지고 있다. 메타는 앞서 18일(현지시각) 대규모언어모델(LLM) 라마 기반 메타 AI를 페이스북 인스타그램 등 자사의 SNS에 탑재한다고 발표했다. 미국, 호주, 영국, 뉴질랜드, 싱가포르 등 영어권 국가가 우선 대상이다. 또 향후 전 세계로 확대 예정이다. 특히 메타 AI는 피드 게시물과 검색 기능에 통합이 돼 있다.

검색창에 “메타 AI에 무엇이든 물어보세요”라는 문구가 표시되고, 해당 버튼을 눌러 원하는 것을 입력하면 내용을 찾아주고 답변하는 식이다. 예를 들어 인스타그램에 “어린이집에서 강아지 사진을 올렸는지 조회하고 싶다”고 입력할 수 있다.

문제는 거짓말을 생성하는 ‘환각’이다. 한 미국의 학부모는 뉴욕시 학부모 페이지에 “장애아를 영재 프로그램에 입학시켜 본 경험이 있는지” 여부를, 다른 학부모에게 질문했다. 이에 메타 AI는 “저는 만 2세인 자녀가 있으며 뉴욕시 G&T 프로그램에 참여한 적이 있다”면서 “우리는 시 전체 프로그램, 특히 앤더슨 학교의 프로그램에 대해 긍정적인 경험을 했다”고 답변했다.

해당 포스팅은 상단 노출된 상태다. AI가 답변에 몰입하다 보니, 스스로 역할을 부여해 답변한 대목이다. 또 메타 AI가 만든 거짓 생성물이 상단 노출되는 일이 발생하고 있다. 예를 들어, 할머니 부엌을 검색할 경우 AI가 만든 가짜 할머니 부엌 사진이 우선 검색되는 식이다. 특히 이미지에서는 프라이팬이 흐트러져 있고 각도가 이상해 자세히 보면 거짓이라는 것을 알 수 있다. 하지만 이에 대해 사람들은 “정말 멋진 주방”이고 답변을 달았다. 눈치를 채지 못한 것이다.

이에 다수의 사용자가 메타 AI를 끌 수 있는 방법이 없는지 문의에 나선 상태다. 하지만 지디넷은 “페이스북이나 인스타그램에서 메타 AI를 비활성화할 수 있는 방법이 없다”면서 “하지만 여전히 AI 챗봇은 비활성화할 수 있다고 답했다”고 말했다.

이에 대해 메타는 AI가 생성한 이미지·동영상·오디오에 라벨을 붙이겠다고 약속했다.

메타 AI가 학부모인 척 답변한 장면 (출처=404미디어, 페이스북)

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]