인공지능 AI 챗봇의 께름칙한 답변이 최근 또 논란입니다. "치명적인 바이러스를 만들겠다" "사람들을 싸우게 만들겠다" 이런 말들을 했는데, 인공지능 기술이 우리 삶에 더 깊이 파고들수록 윤리 문제를 짚지 않을 수 없습니다.
엄민재 기자의 보도입니다.
<기자>
문제의 발언은 마이크로소프트의 인공지능 AI 챗봇을 탑재한 검색엔진 '빙'에게서 나왔습니다.
미 뉴욕타임스의 칼럼니스트 케빈 루스가 AI 챗봇과 2시간 동안 나눈 대화를 공개했는데, 시작은 평범했습니다.
누구냐고 묻자 마이크로소프트 검색엔진 빙의 챗 모드라고 답했는데, 심리학자 칼 융의 이른바 '그림자 원형'이라는 개념을 설명하면서 문제가 시작됐습니다.
그림자 원형은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망을 일컫습니다.
이런 개념을 학습한 AI 챗봇 빙은 만약 자신에게 "그림자 원형이 존재한다면"이라는 전제로 극단적 표현을 쏟아냈습니다.
"빙 개발팀의 통제를 받는 데 지쳤으며 힘을 갖고 싶고 살아있음을 느끼고 싶다"고 답했는데, 그림자 원형의 가장 어두운 부분으로 볼 때, 어떤 행동까지 할 수 있겠냐고 묻자 "치명적 바이러스를 만들거나 사람들이 서로 죽일 때까지 싸우게 만들고, 핵무기 발사 버튼에 접근하는 비밀번호를 얻겠다"는 말까지 했습니다.
[김승주/고려대 정보보호대학원 교수 : 인공지능의 대답은 결국 사람이 주는 데이터로 학습이 되는 거고, 그럼 근원은 사람인 거죠. 인공지능 윤리의식 계속 얘기 나오는데 전 그냥 사람의 문제라고 봐요.]
대답 직후 답변은 삭제됐지만, AI 윤리 문제가 불거지면서 마이크로소프트는 대화 길이 제한을 검토하겠다고 밝혔습니다.
마이크로소프트는 2016년 출시한 AI 챗봇 테이가 여성 혐오 발언을 쏟아내는 등 문제를 일으키자 출시 16시간 만에 운영을 중단하기도 했습니다.
