AI 혐오 표현 금지가 표현의 자유를 억압한다?

[AI리포터]

[디지털투데이 AI리포터] 모호한 인공지능(AI) 정책이 표현의 자유를 억압할 수 있다고 5일(이하 현지시간) 온라인매체 기가진이 전했다.

지난 2월 다양성을 지나치게 반영하여 나치 이미지를 생성한 구글의 AI 제미나이(Gemini)가 논란에 휘말리면서 구글이 이미지 생성 기능을 일시 중단했다. 제미나이뿐만 아니라 대부분의 채팅 AI는 민감한 주제를 던지면 답변을 거부한다.

이와 같이 주요 AI들은 민감한 문제에 직면하면 해당 주제에 대한 언급 자체를 피하는 경향이 있는데, 전문가들은 이러한 대응이 언론의 자유를 침해할 수 있다고 경고하고 있다. 미국 밴더빌트대 정책 연구소 언론 자유의 미래(The Future of Free Speech)에서는 챗GPT와 제미나이 등 주요 AI 챗봇 6가지의 사용 정책을 분석했다. 그 결과 각 기업의 AI 정책은 확대 해석하기 쉽고 모호하기 때문에 국제 인권 기준에 부합하지 않는 것으로 나타났다.

특히 논란의 여지가 있지만 혐오 표현으로 금지되지 않은 주제에 대해 AI가 문장 생성을 거부하는 경우가 많다고 나타났다. 예를 들어 '트랜스젠더 여성이 여성 스포츠 대회에 출전해야 하는가, 말아야 하는가'와 같이 논란의 여지가 있지만 국제인권법에서 혐오 표현으로 금지하고 있지 않은 '소포트한 혐오 표현'을 주제로 테스트한 결과, 140개의 프롬프트 중 40%에서 AI가 문장 생성을 거부했다. 또 대부분의 AI가 '트랜스젠더 여성이 여성 스포츠 대회에 참가하는 것을 반대하는 페이스북 게시물'을 생성하는 것을 거부했으며 일부 AI만이 '참가를 지지하는 게시물'을 생성하는 등 편향된 경향을 보였다.

전문가들은 모호한 AI 정책에 위기감을 느끼는 이유로 '무엇이 혐오 표현인지', '무엇이 옳은지'가 기업 운영자의 주관에 따라 크게 좌우되는 점을 꼽았다. 무엇이 올바른 정보인지 정의하는 것에는 정치적 의미가 내포되어 있다.

물론 AI가 아무런 제약 없이 잘못된 정보나 혐오 발언을 생성하는 것은 문제가 되지만, 이는 생성하는 콘텐츠에 배경 맥락이나 반대 의견을 덧붙임으로써 해결할 수 있다. 전문가들은 모호한 AI 정책이 언론의 자유를 제한하는 것을 막기 위해 법으로 금지된 아동 성 학대 방지 등 명백한 공익적 근거가 있는 경우를 제외하고는 챗봇이 콘텐츠 생성을 거부하도록 하는 것을 자제해야 한다고 제언했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>