[뉴팬데믹! 가짜뉴스] ② '차원 다른 위협'…美 행정·입법부 AI 규제 총력전

'진짜같은 가짜뉴스' 우려 심화…AI 콘텐츠에 워터마크 표시 등 조치

정치광고에 딥페이크 사용금지 여부 논의…의회도 AI 규제 입법패키지 추진

대선조작 보도에 거액배상 '철퇴'…'표현의 자유' 논쟁 속 SNS 기업 면책권 공방도

AI가 만든 가짜 트럼프 체포 사진 [엘리엇 히긴스 트위터. 재판매 및 DB 금지]

(워싱턴=연합뉴스) 강병철 특파원 = 조 바이든 대통령과 도널드 트럼프 전 대통령이 재대결을 벌일 것으로 보이는 2024년 대선을 앞두고 미국 정치권에서도 가짜뉴스 대응에 대한 논의가 활발하게 전개되고 있다.

트럼프 전 대통령이 처음 대선에 도전해 당선됐던 2016년부터 정치·사회적 문제로 본격적으로 부상한 가짜뉴스 자체는 새로운 현상은 아니다. 하지만 인공지능(AI) 프로그램의 발달로 가짜뉴스가 이전과 차원이 다른 수준의 위협을 초래할 수 있다는 인식에 따라 AI 규제 관련 논의가 특히 가속화되는 모습이다.

이전에는 '허위 정보'가 소셜미디어(SNS) 등을 통해 진짜 뉴스처럼 포장돼 전달됐다면 이제는 누구나 AI 프로그램으로 손쉽게 '진짜와 구별이 안 되는 가짜'를 만들 수 있게 되면서 미국 정치권의 우려가 위기감 수준으로 증폭된 상황이다.

나아가 가짜뉴스와 관련한 언론과 SNS 기업의 책임 문제에 대한 사회적 관심도 높아지고 있다.

수정헌법 1조에 따라 표현의 자유가 절대적으로 우선되고 있으나, 폭스뉴스의 대선 조작 보도 거액 배상 합의에서 보듯 허위 정보 등에 대해서는 언론과 기업이 책임지도록 해야 한다는 목소리가 계속되고 있다.

AI 규제 등의 내용이 담긴 행정명령에 서명하는 바이든 [UPI 연합뉴스 자료사진. 재판매 및 DB 금지]

◇ 바이든, AI 악용 규제 앞장…의회도 패키지 입법 마련 논의

바이든 대통령은 지난달 30일(현지시간) AI로 생성된 콘텐츠를 식별하고 공식 콘텐츠를 인증하기 위한 표준을 만드는 내용 등이 포함된 AI 행정명령에 서명했다.

바이든 대통령은 서명 전 연설에서 딥페이크(특정 인물의 얼굴 등을 영상에 합성)의 문제를 지적하면서 "딥페이크는 사람들의 평판을 훼손하고 가짜뉴스를 퍼트리는 한편 사람들에게 사기를 치기 위해 AI가 만든 오디오와 영상을 사용한다"고 말하면서 AI가 생성한 콘텐츠에는 이를 표시해야 한다고 강조했다.

이에 앞서 알파벳(구글 모회사), 메타, 마이크로소프트, 아마존, 오픈AI 등 주요 인공지능(AI) 기업들은 지난 7월 바이든 대통령이 백악관에서 개최한 AI 관련 행사에 참석해 AI 콘텐츠에 워터마크를 넣는 등 안전 조치를 자발적으로 취하기로 약속했다.

지난 3월 트럼프 전 대통령이 뉴욕 맨해튼에서 체포돼 끌려가는 모습 등을 담은 'AI 생성' 가짜 사진이 확산하면서 AI를 이용한 가짜 뉴스에 대한 우려가 커지자 주요 업체들이 최소한의 안전장치 마련에 동의한 것이다.

미국 연방선거위원회(FEC)도 정치광고에서 AI 관련 기술 사용을 규제할지 여부에 대해 처음으로 검토에 들어간 상태다.

선거에서 사기성 허위 진술을 금지하는 기존 연방법이 AI로 만든 딥페이크에도 적용된다는 점을 명확히 해달라는 한 시민단체의 청원을 받아들인 것이다.

FEC는 전문가 의견 수렴과 내부 검토 등을 거쳐 규제 여부를 결정할 예정이다.

의회에서도 상원을 중심으로 가짜뉴스 생산에 사용될 수 있는 AI 규제 입법에 대한 논의가 계속되고 있다.

상원 다수당인 민주당 척 슈머 원내대표는 상원 전체 의원을 대상으로 AI 능력 수준, 미국 정부의 AI 활용 현황 등에 대한 설명회·브리핑을 주도하면서 AI에 대한 안전장치 개발 및 미국의 리더십 강화 등을 목표로 한 입법 패키지를 개발 중이다.

슈머 원내대표는 입법 패키지 개발을 위한 상원 차원의 논의가 본격화되기 전인 지난 6월 전략국제문제연구소(CSIS)에서 진행한 강연에서 AI가 초래할 위협 중 하나로 '잘못된 정보'를 제시한 뒤 "혁신을 우선하되 '안전'(security), '책임'(accountability), '기반'(foundations), '설명 가능성'(explainability)도 함께 고려해야 한다"면서 이 글자들의 앞 글자를 딴 이른바 SAFE 원칙을 강조하기도 했다.

상원에는 AI 관련 콘텐츠에 대해 AI 관련 업체들이 법적 책임을 지도록 하는 법안도 제출돼 있다.

공화당 전국위원회가 AI로 만든 '바이든 재선시 미래' 광고 [공화당 전국위 동영상 캡처. 재판매 및 DB 금지]

◇ '표현의 자유'의 중시하지만…폭스뉴스 거액배상·SNS업체 면책권 도마

이른바 챗GPT 쇼크로 가짜뉴스와 관련한 미국 정치권의 대응 초점이 AI에 맞춰져 있으나, AI와 무관하게 이전부터 언론이나 SNS 등을 통해 확산했던 가짜뉴스도 사회적 문제로 인식되고 있다.

특히 트럼프 전 대통령 지지자들이 2020년 대선 조작을 주장하면서 의회에 난입한 1·6 의사당 폭동 사태나 백신을 비롯해 각종 허위 정보가 확산했던 코로나19 대유행 등을 겪으면서 가짜뉴스에 대한 경각심이 더 높아졌다.

다만 미국 연방 대법원은 허위 발언도 넓게는 표현의 자유 측면에서 보호돼야 한다고 보고 있다.

대법원은 1964년 '뉴욕타임스 대 설리번' 판결에서 "잘못이 있는 언사는 자유로운 토론에서는 불가피하다"면서 "표현의 자유가 존속되려면 필요한 숨 쉴 공간을 가지려면 (잘못된 언사도) 보호돼야 한다"고 그 이유를 밝힌 바 있다.

대법원의 이런 판결과 사회 전반의 분위기 등으로 인해 미국에서는 가짜뉴스에 대해 법 제도적 규제보다는 기업 자율적 측면에서 접근하는 흐름도 있다.

그러나 미국에서도 명예훼손, 사기, 가짜 상업광고, 정치광고 및 방송에서의 허위 발언 등에 대해서는 제한적이지만 때로는 강한 처벌이 이뤄지고 있다.

폭스뉴스 '대선조작' 보도에 시위하는 시민들 [EPA 연합뉴스 자료사진. 재판매 및 DB 금지]

지난 4월 보수성향의 폭스뉴스가 2020년 대선에서 투·개표기가 조작됐다는 보도를 한 것에 대해 7억8천750만 달러(약 1조391억원)를 배상키로 한 것에 대표적이다.

폭스뉴스는 2020년 대선 때 트럼프 전 대통령을 찍은 표를 바이든 대통령 표로 바꾸면서 트럼프 전 대통령이 패배했다고 반복적으로 보도하면서 투·개표기 문제를 제기했다.

그러나 명예훼손 재판 과정에서 뉴스 진행자와 경영진도 선거 조작이 사실인지 의구심을 표시했다는 정황이 드러났고, 결국 소송을 낸 투·개표기 업체에 천문학적인 돈을 물어주게 된 것이다.

폭스뉴스는 이 배상 합의 뒤 대선 조작 음모론 확산에 앞장섰던 보수 논객인 친(親)트럼프 간판 앵커 터커 칼슨을 해고하기도 했다.

SNS 기업에 대한 통신품위법상 203조(면책 규정)도 가짜뉴스 확산 등과 맞물려 개정이 필요하다는 요구가 미국 내에서 계속되고 있다.

피해자들이 기업에 소송할 수 있도록 허용해 인터넷에 사용자가 올린 게시물에 대한 업체의 책임을 강화해야 한다는 게 그 이유다.

여기에는 SNS 업체들이 사용자에게 콘텐츠 노출을 결정하는 알고리즘에 대한 전반적인 문제의식도 반영돼 있다. 사실상 업체들이 알고리즘 뒤에서 편집권을 행사하고 있는 것 아니냐는 것이다.

이와 관련, 브라이언 샤츠(민주·하와이)·존 튠 상원의원(공화·사우스다코다) 등은 지난 2월 연방기관은 SNS 업체에 민사소송을 제기할 수 있도록 하는 내용이 포함된 법안을 발의하기도 했다.

챗GPT [챗GPT 화면 캡처. 재판매 및 DB 금지]

다만 SNS 기업 등에 대해 직접적으로 규제하는 것에 대해 보수진영은 반대하고 있어 당장 의회에서 가시적인 진전이 있기는 쉽지 않다는 관측도 있다.

앞서 보수 우위의 연방 대법원은 지난 5월 SNS에 게시된 사용자 게시물에 대해 업체들의 책임이 없다는 판결을 했다.

트럼프 전 대통령 때 임명된 보수 성향의 연방판사는 지난 7월 바이든 정부에 SNS 기업 간 접촉을 중단하라는 명령을 내리기도 했다. 대선 사기 주장 등에 대한 SNS 게시물에 바이든 정부가 개입해 검열하고 있다는 루이지애나 검찰총장 등의 주장을 받아들인 것이다.

이 법원 명령은 항소법원에서 다시 제동이 걸리기는 했으나 접촉금지 조치가 한때 내려진 것 자체가 SNS 기업 규제와 관련한 미국 내 진보·보수 진영 간 입장차를 보여준다는 지적이 나온다.

나아가 공화당 유력 대선 후보인 트럼프 전 대통령은 2020년 대선 결과를 뒤집으려고 시도한 혐의 등으로 기소된 상태지만 여전히 선거운동 과정에서 자신이 선거에서 이겼다고 주장하고 있다.

여기에 적지 않은 공화당 지지자들이 호응하는 등 가짜뉴스와 관련해 정치적으로 혼란스러운 상황이 계속되고 있다.

soleco@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>