미 대선 등 ‘선거의 해’···오픈AI, 챗GPT ‘가짜뉴스’ 차단 대책 보니

챗GPT·이미지 생성 서비스 ‘달리’

출처 검증·워터마크로 악용 방지

구글 ‘바드’도 선거 관련 질문 제한

AP연합뉴스

오픈AI가 대화형 인공지능(AI) 챗GPT와 ‘달리(Dall-E)’가 선거에 악용되는 것을 막기 위한 대책을 내놨다.

오는 11월 미국 대선 등 올해 전 세계 곳곳에서 중요한 선거가 예정된 가운데 AI 기술에 기반한 가짜뉴스가 확산될 수 있다는 우려가 커지면서 대응책 마련에 나선 것이다.

오픈AI는 15일(현지시간) 블로그를 통해 자사의 AI 도구가 제공하는 최신 선거 관련 정보에 출처를 표시할 예정이라고 밝혔다.

우선 챗GPT가 제공하는 뉴스·정보와 달리가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지와 같은 출처가 제공된다.

특히, 달리가 제공하는 이미지에 대한 검증이 강화된다. AI를 기반으로 얼굴 등을 실제처럼 조작한 ‘딥페이크’에 대한 우려가 커지고 있기 때문이다.

이를 위해 어떤 이미지가 달리에 의해 생성됐는지 여부를 확인할 수 있는 ‘이미지 찾기 도구’(image-detection tool)가 출시된다. 오픈AI는 이 이미지 찾기 도구를 미디어와 연구자 등에게 우선 배포해 피드백을 받을 예정이라고 설명했다.

아울러 달리가 제공한 이미지에는 이를 확인하는 워터마크가 표시된다.

오픈AI는 “공정한 선거를 위해 모든 것은 민주적인 과정으로 이뤄져야 한다”며 “우리의 기술이 이 과정을 훼손하는 것을 원치 않는다”고 했다.

선거를 앞두고 AI 기술을 보유한 기업들은 자사의 기술이 선거에 악용되는 것을 막기 위해 대책을 내놓고 있다. 앞서 구글은 자사 AI 챗봇 ‘바드’와 AI 검색 기능이 답변할 수 있는 선거 관련 질문을 제한하기로 했다.

또 AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 선거 광고가 AI를 사용한 경우 광고주가 이 사실을 눈에 띄게 표시하도록 했다.

오픈AI는 “올해 전 세계 곳곳의 선거를 앞두고 우리 도구의 남용 가능성을 예측하고 방지하기 위해 계속해서 파트너와 협력할 것”이라고 밝혔다.

김상범 기자 ksb1231@kyunghyang.com

▶ 진보? 보수? 당신의 정치성향을 테스트해 보세요!
▶ 뉴스 남들보다 깊게 보려면? 점선면을 구독하세요

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지