[기자수첩] 챗GPT가 ‘제2의 이루다’ 되지 않으려면

송복규 기자

윤석열 대통령이 지난 27일 열린 업무보고에서 지난해 말 공개된 대화형 인공지능(AI) ‘챗GPT(ChatGPT)’로 신년사를 쓴 경험을 언급했다. 그러면서 참모들과 공무원들에게 챗GPT를 활용해볼 것을 권했다. 단순 문서 작업에 인공지능(AI)을 사용해 효율을 높이자는 의미였다.

오픈AI의 챗봇 챗GPT(ChatGPT)가 공개된 지 두 달이 지났다. 챗GPT에 대한 반응은 어마어마하다. 거대 언어 모델인 챗GPT는 온라인상의 정보를 끌어모아 자신만의 언어로 표현한다. 상당한 작문 실력으로 논문을 작성하고, 미국 로스쿨과 의사 시험에도 합격했다.

챗GPT는 정말 만능일까. 해외에서는 챗GPT의 윤리적인 문제점을 일찍이 파악한 모양새다. 국제 학술지 네이처는 챗GPT를 포함한 대화형 AI를 논문 저자로 인정하지 않겠다는 방침을 세웠다. 영국에서도 130여 개 대학이 모여 챗GPT가 리포트나 논문 작성에 악용될 수 있다는 성명을 발표했다.

챗GPT의 신뢰성은 절대적이지 않다. 인터넷에 돌아다니는 정보를 데이터 세트로 하는 챗GPT가 가짜뉴스나 잘못된 정보를 습득할 수 있기 때문이다. 이 경우엔 AI가 틀린 사실을 정답처럼 말하는 ‘할루시네이션(환각)’ 현상이 나타날 수 있다. 챗GPT가 처음 등장했을 때 한국의 대통령이 누군지 묻자 문재인이라고 하거나 아예 엉뚱한 이름을 말하기도 했다. 2021년 5월 이전의 데이터를 학습한 데다 가짜 정보도 많았기 때문이다. 이 때문에 유럽연합(EU)은 아예 ‘인공지능법(AI Act)’을 제안해 AI 기술의 위험도를 3단계로 나누고 규제하는 방안도 고려 중이다.

국내 AI 연구의 선구자이자 서울대 AI연구원장을 맡고 있는 장병탁 컴퓨터공학과 교수는 최근 불고 있는 챗GPT 열풍과 관련해 ‘이루다의 교훈’을 강조했다. 국내 스타트업 스캐터랩에서 개발한 AI 챗봇 이루다는 출시된 지 한 달도 안 돼 2021년 1월 서비스를 잠정 중단했다. 페이스북 메신저를 기반으로 하는 이루다는 각종 혐오 표현과 차별 발언으로 논란에 휩싸였다. 일부 이용자가 부적절한 발언을 입력하면서 이루다가 이를 학습한 것이 원인이었다.

장 교수는 “AI가 악용되거나 오용되는 것은 기술을 사용하는 사람들의 윤리의식 때문”이라며 “AI를 핵에 비유하는 것도 핵을 에너지 자원으로 유용하게 쓸지, 무기로 쓸지 결정하는 건 결국 인간의 몫이기 때문”이라고 설명했다.

챗GPT에 열광하는 건 쉬운 일이다. 하지만 더 중요하고 필요한 건 우리 앞에 등장한 새로운 기술이 오용되거나 악용되지 않도록 지켜야 할 윤리적인 선을 긋는 일이다.

송복규 기자(bgsong@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>