AI시대, 판치는 가짜뉴스…전문가들 “규제 대상 구체화부터 시작해야”

[디지털데일리 이나연기자] 인공지능(AI) 시대를 맞아 딥페이크(특정 인물 얼굴·목소리 합성) 등을 활용한 가짜뉴스(허위 조작 정보) 문제에 대응하기 위해 확실한 목적성에 근거한 법적규제와 자율규제의 조화가 필요하다는 전문가들의 제언이 나왔다.

24일 서울 중구 더플라자호텔에서 ‘가짜뉴스 규제의 최근 동향과 쟁점’을 주제로 열린 서울대학교 공익산업법센터 제94회 학술 세미나에서 딥페이크에 대한 법적 규제 관점에서 무분별한 제재 대신 보다 구체적이고 확실한 기준 설정이 필요하다는 의견이 제기됐다.

‘뉴스의 외관을 띠거나 속일 의도성이 있는지’ 혹은 ‘특정인의 평판 등에 부정적 영향을 미쳤는지’와 같은 수식어를 통해 그 대상을 확실히 좁혀야 규제에 실효성이 생긴다는 것이다.

최경진 가천대 법학과 교수는 “전 세계 각국에서 딥페이크 이슈가 커지는 이유는 결국 특정인에 관한 사실이 왜곡되거나 잘못된 정보가 일으킬 정치적 문제 때문”이라며 AI 활용 자체가 전면 금지되는 불상사를 막고자 규제 필요성과 대상 등을 잘 고려해 적정 수준 제재를 결정해야 한다고 말했다.

가령 2023년 개정 공직선거법의 제82조의8(딥페이크 영상 등을 이용한 선거운동)에 따르면 ‘누구나 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크 영상을 제작, 편집, 유포, 상영 또는 게시하는 행위를 해선 안 된다’라고 명시돼 있다.

포토샵 2024엔 지정된 이미지에 생성 AI 옵션을 통해 이미지를 바꾸거나 새롭게 만드는 기능이 있다. 하지만 공직선거법 내용대로라면 선거 벽보나 관련 자료를 만들 때 이 기능은 필수로 쓰임에도, 공직선거법 내용대로라면 아무것도 활용할 수 없게 된다.

해당 문구에 대해 최 교수는 “결론적으로 선거 과정에서 필요한 AI 기술까지 금지하는 셈”이라고 꼬집었다. 이어 “딥페이크에 규제가 필요한 이유가 무엇인지 법적 적용 범위에서 명확하게 짚지 않으면 AI 활용이 위축돼 사실상 발전도 멀어지게 된다”라고 덧붙였다.

가짜뉴스 문제 관련해 플랫폼 기업들의 자발적인 대응이 강화될 수 있도록 사업자와 신뢰 틀을 만드는 한편, 정부도 일정 힘을 실어주는 노력이 필요하다는 조언도 있었다.

최 교수는 “지난 1월 테일러 스위프트 얼굴이 합성된 성적 딥페이크 이미지가 유포됐을 때 가장 기민하게 움직인 곳이 ‘X(옛 트위터)’”라며 “당시 X와 유튜브 등은 테일러 스위프트와 관련된 검색의 확산 자체를 막는 임시 조치에 나섰다. 사업자들의 이런 자발적 노력이 확산할 수 있는 지원도 필요하다”라고 전했다.

이어진 토론에서 업계는 딥페이크를 포함한 가짜뉴스 문제에 최선의 노력을 강구하고 있음에도 불구하고, 사회가 요구하는 신속한 대응이 어려운 측면이 있다고 강조했다.

손지윤 네이버 이사는 “네이버는 지난 2018년 가짜뉴스 신고센터를 신설하고 서울대와 6년째 팩트체크 활동을 이어 왔다”며 “언론사 혹은 언론인 사칭하는 식의 실제 위법한 내용은 약관에 반영해 조치하는 등의 노력을 기울이고 있다”라고 말했다.

다만, 사회적·법리적으로 판단이 어려운 사안조차도 자율규제라는 이름으로 사업자에 일방적 책임을 부과하는 건 무리라는 지적이다.

손지윤 이사는 “범정부 전담팀(TF)이 만들어질 정도로 최근 문제 된 ‘유명인 사칭 온라인 피싱 범죄’ 경우, 이를 처리하는 과정을 보면 위법성이 명백하더라도 현행법으로 맞는지 아닌지 헷갈릴 때가 많다”며 “회사로선 책임을 회피하려는 게 아님에도 기관조차 판단하지 못하는 부분을 신속하게 대응하기엔 어려움이 많다”라고 말했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -