18일(현지 시각) CNN에 따르면, 지난 14일 마이크로소프트와 일론 머스크 테슬라 창립자가 지원하는 비영리 AI 연구기업 ‘오픈AI’는 판타지 소설부터 가짜 연예뉴스, 학교 과제까지 모든 종류의 작문을 할 수 있는 AI를 개발했다. 이 AI는 사용자가 시스템에 문장을 입력하면 해당 문장 다음에 자연스럽게 이어질 문장을 만든다.
예를 들어 시스템에 소설 ‘반지의 제왕’ 속 장면을 담은 문장을 입력하면 그 다음 전개되는 내용을 AI가 서술하는 식이다. 오픈AI 개발자들은 시스템에 ‘레골라스와 김리가 무기를 높이 들고 함성을 지르며 오크족을 향해 진격한다’는 문장을 입력했다. 그랬더니 AI는 "오크족의 대응은 괴상한 발톱으로 귀를 먹먹하게 할 정도의 맹습을 날리는 것이었다"며 "오크족을 공격하기 위해 선두에 선 김리는 ‘난쟁이여 안심하라’라고 말했다"라고 문장을 만들었다.
오픈AI는 오랜시간 공들여 개발한 이 AI를 출시하지 않기로 결정했다. 작문 실력이 지나치게 뛰어나 진짜 같은 가짜 뉴스를 양산하거나 소셜미디어에서 가짜 글을 올리는 등 악용될 가능성이 우려됐기 때문이다. 대신 오픈AI는 다른 연구원들이 사용할 수 있는 기술 논문과 사양이 낮은 AI 모델을 공개하기로 했다.
오픈AI는 AI가 가짜 뉴스를 만든 사례를 공개했다. 개발자는 시스템에 ‘핵물질을 실은 열차가 오늘 신시내티에서 탈취됐다’는 문장을 입력했다. 이에 AI는 "해당 사건은 도심의 한 철도에서 발생했으며 해당 핵물질은 신시내티대학의 트라이앵글 파크 핵 연구소에서 개발한 것"이라고 썼다. 구체적인 사건 장소와 핵물질이 개발된 연구소의 이름까지 가짜로 만들어낸 것이었다.
AI를 시중에 출시하지 않기로 한 이번 결정은 최첨단 기술을 어느 수준까지 개발할 수 있을지 한계를 정해놓지 않은 상황에서 빠르게 발전하는 AI 기술에 대해 느끼는 인간의 불안감을 드러낸 사례라고 CNN은 해석했다. 최근 IT(정보기술)업계에서는 안면 인식 기술이 어느 수준까지 사용돼야 할지를 정하는 법률을 제정해야 한다는 목소리가 높아지고 있다. 아마존 투자자와 직원, 시민단체는 아마존의 안면인식 기술 ‘레코니션(Rekognition)’이 인권을 침해할 수 있다며 정부 기관에 판매하는 일을 중단해야 한다고 주장하고 있다.
[이경민 기자]
- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
