오픈AI, "포르노 콘텐츠 생성 허용 검토 중"

[AI리포터]

오픈AI [사진: 셔터스톡]

[디지털투데이 AI리포터] 10일(현지시간) 온라인매체 기가진에 따르면 오픈AI가 포르노나 유혈 표현, 비방 등을 포함한 콘텐츠를 생성할 수 있도록 하는 방안을 검토 중이다. 오픈AI는 채팅 인공지능(AI) 챗GPT와 이미지 생성 AI 달리(DALL-E)를 개발한 기업이다.

미라 무라티 오픈AI 최고기술책임자(CTO)는 "아티스트들이 AI를 통해 표현하는 것에 더 창의적인 환경을 원하고 있다"며 "다양한 분야의 아티스트 및 크리에이터들과 협력하여 무엇이 유용하고 어느 정도의 유연성을 제공해야 하는지 파악하는 중"이라고 밝혔다.

오픈AI는 자사 제품을 통해 개발자와 사용자가 책임감 있게 NSFW(욕설, 포르노, 누드, 고어 등 위험한 게시물) 콘텐츠를 생성할 수 있도록 하는 방안을 검토하고 있으며, 선정적인 텍스트와 누드 이미지 생성을 앞으로도 금지해야 하는지에 대한 논의를 시작할 것이라고 전했다. 다만 딥페이크 생성은 허용되어서는 안 된다는 입장이다.

이번 검토가 알려지며 업계에서는 비판적인 시각도 쏟아지는 상황. 클레어 맥글린 더럼대 법학과 교수는 "오픈AI가 NSFW 콘텐츠의 생성을 합법적인 자료로 제한하려는 어떠한 방식에도 회의적"이라고 지적했다. 온라인 성적 학대로부터 아동을 보호하는 자선단체 '인터넷 워치 파운데이션'(Internet Watch Foundation)은 "오픈AI가 실질적인 대책을 마련하지 않고 AI가 만들어내는 피해에 대해 기업이 책임을 지지 않는 것은 매우 유감스럽다"고 비판했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>