생성형 인공지능(AI) 가짜뉴스, 선거판 최대 변수 되나

트럼프 및 바이든 등 전현직 대통령 연관된 조작 영상과 사진 유통
‘챗GPT’ 설계한 샘 알트먼 오픈AI CEO, 직접 규제 촉구
세계 각국도 규제 움직임
[아로마뉴스(44)]5.15~19

편집자주

4차 산업 혁명 시대다. 시·공간의 한계를 초월한 초연결 지능형 사회 구현도 초읽기다. 이곳에서 공생할 인공지능(AI), 로봇(Robot), 메타버스(Metaverse), 자율주행(Auto vehicle/드론·무인차) 등에 대한 주간 동향을 살펴봤다.

지난달 말 미 공화당 전국위원회(RNC)측에서 ‘역대 최약체’인 조 바이든 미국 대통령이 재선될 경우, 경제 악화와 범죄율 상승, 국경정책 후퇴 등이 야기될 것이란 가상 시나리오를 배경으로 제작된 32초 분량의 동영상은 인공지능(AI)의 가짜 이미지로 제작된 것으로 확인됐다. 유튜브 캡처

기관총 등으로 중무장한 군인들이 샌프란시스코 도심 속 아스팔트 위를 순찰하면서 교통까지 통제했다. 금융시장 폭락은 재정시스템 붕괴와 더불어 지역은행의 연쇄 폐업을 가져왔고 도시 전체도 마비됐다. 불안정한 치안 상황은 대로변 길가에 어지럽게 쌓여진 쓰레기들에서 가늠됐다. 미국 남부 국경 지역에선 수 만명의 불법 이민자들로 북적이면서 혼란을 부추겼다. 국제적인 긴장 또한 고조됐다. 중국 전투기와 항공모함으로부터 폭격을 받은 대만 도시 숲 파괴된 빌딩에선 뿌연 연기가 치솟았고 거리 곳곳엔 시민들의 시위대 행렬들도 쏟아졌다.

영화 속 장면이 아니다. 내년 11월5일로 예정된 60번째 대통령 선거를 앞두고 벌써부터 달아오른 미국 현지 정가의 분위기가 반영된 동영상 얘기다. 지난달 25일, 조 바이든 미국 대통령이 3분 가량의 동영상으로 2024년 대선 도전을 공식 선언하자 미 공화당 전국위원회(RNC) 주도 하에 맞대응 성격에서 제작된 영상이다. ‘역대 최약체’인 조 바이든 미국 대통령이 재선될 경우, 경제 악화와 범죄율 상승, 국경정책 후퇴 등이 야기될 것이란 가상 시나리오가 담겼다. 회색 빛 도시를 배경으로 32초 동안 연출된 이 동영상은 내용 보단 제작 형식에서 더 큰 관심을 모았다. 생성형 인공지능(AI)으로 잉태된 가상 이미지가 전체 동영상을 채웠다는 측면에서다. RNC는 이에 대해 “바이든이 재선될 경우, 일어날 수 있는 국가의 미래를 AI가 고찰했다”고 전했다.

생성형 AI가 선거판의 새로운 복병으로 떠오를 조짐이다. 사실과 다른 허위 조작 정보 기반의 짜집기 기술로 여론을 호도하면서 선거판에 또 다른 변수가 될 것이란 전망이다. 특히 ‘챗GPT’로 생성형 AI 열풍을 몰고 온 미국 스타트업 오픈AI의 샘 알트먼 최고경영자(CEO)가 직접 이런 가능성에 대해 우려하면서 이목도 쏠렸다.

지난 16일(현지시간) 로이터통신과 파이낸셜타임스 등에 따르면 알트먼 CEO는 이날 미 상원 법제사법위원회 사생활·기술·법소위가 개최한 청문회에 참석해 “AI가 예측할 수 없는 방식으로 사회를 변화시킬 수 있다”며 “위험의 완화를 위해선 정부의 규제 개입이 중요하다”고 밝혔다.

미 의회엔 처음으로 등장한 알트먼 CEO는 특히 “AI가 내년 대선 여론에 영향을 줄 수 있느냐”는 의원들의 질문에 “생성형 AI가 점점 더 좋아지고 있다는 부분을 감안할 때 일대일 대화로 허위 정보를 제공하는 능력은 중대한 우려의 영역이라고 생각한다”고 답했다. 사실상 생성형 AI가 선거에 부정적인 효과를 가져올 수 있다고 시인하면서 이례적으로 구체적인 규제까지 촉구하고 나선 셈이다.

그는 이어 생성형 AI 기술 제공 기업과 관련, “공개적으로 예상되는 사항에 대한 지침을 만들어 달라”며 “기술이 잘못되면 큰 문제가 발생할 수 있는데, 이런 일이 일어나지 않도록 정부와 협력하고 싶다”고 말했다.

지난 3월, 미국 공화당의 유력한 대선 주자인 도널드 트럼프(가운데) 전 대통령이 뉴욕 맨해튼에서 체포된 가운데 경찰에 의해 연행되는 사진들이 사회관계망서비스(SNS)인 트위터 등에 유통되면서 이목을 끌었다. 해당 사진들은 모두 생성형 AI에 의해 제작된 것으로 드러났다. 트위터 캡처

이에 크리스 쿤스 민주당 의원은 "AI가 잘못된 정보를 전달하고 여론과 선거 결과에 영향을 미칠 수 있다. 의회는 이제까지 소셜미디어에 대한 규제에 실패해 왔다"며 "AI가 민주주의의 가치에 대한 믿음을 훼손할 가능성이 걱정스럽다"고 염려했다.

그도 그럴 것이, 생성형 AI의 악용 사례는 앞선 지난 3월에도 불거졌다. 당시 공화당의 유력한 대선 주자인 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 체포된 가운데 경찰에 의해 연행되고 교도소내 주황색 재소자 복장까지 착용한 사진들이 사회관계망서비스(SNS)인 트위터 등에서 공공연하게 떠돌았다. 하지만 이 사진들은 이내 생성형 AI를 이용한 가짜 사진으로 드러났다.

이런 상황을 반영이라도 하듯, 생성형 AI에 대한 세계 각국의 규제 움직임도 분주하다. 당장, 미국내 일부 주에선 AI 기술과 연관된 관련법 마련에 착수했다. 실제 일리노이주에선 기업이 영상면접에 AI기술을 이용할 경우 면접 참가자의 동의를 받도록 한 'AI영상면접법'을 통과시켰고 워싱턴주에선 공공기관에 AI가 영향력을 끼칠 경우, 해당 기업의 최고정보책임자(CIO)가 규제 체계까지 챙기도록 했다.

유럽연합(EU)에선 2년 전부터 논의돼온 '인공지능법' 초안이 지난 11일 유럽의회 상임위원회를 통과, 다음 달 본회의에서 표결에 들어갈 예정이다. 중국 국가인터넷정보판공실은 지난달 11일 AI 기업들이 따라야 할 규정과 이를 어길 경우 벌칙 규정을 담은 가이드라인 초안까지 발표했다.

한규민 디자이너

허재경 이슈365팀장 ricky@hankookilbo.com