“쉽게 우회할 수 있는 미봉책” 우려도
 |
샘 올트먼 오픈AI 최고경영자(CEO)/ 연합뉴스 |
오픈AI가 챗GPT 이용자의 사용 패턴 등을 분석해 연령을 가늠하는 ‘연령 예측 모델’을 가동한다. 인공지능(AI)이 사용자의 연령을 예측해 미성년자에게는 유해·성인용 콘텐츠를 제한하는 등 연령에 맞는 콘텐츠만을 제공하겠다는 것이다. 오픈AI는 “성인을 성인답게 대하자”는 취지로 챗GPT에 성인 콘텐츠 활용 기능을 추가하겠다고 밝혔는데, 이에 앞서 가드레일(안전판)을 구축하겠다는 것이다. 그러나 “쉽게 우회할 수 있는 미봉책”이라는 비판과 우려의 목소리도 나온다.
오픈AI는 20일(현지 시각) 자사 블로그를 통해 “챗GPT에 연령 예측(age prediction) 기능을 가동해 계정 소유자가 18세 미만일 가능성을 판단한다”고 밝혔다. 구체적으로 챗GPT 계정 생성 기간과 이용자의 일반적인 활동 시간대, 시간 경과에 따른 사용 패턴 등을 종합적으로 분석한다.
연령 예측 모델을 통해 계정 소유자가 18세 미만일 것으로 추정될 경우, 챗GPT는 민감한 콘텐츠 노출을 줄이기 위해 설계된 추가 보호 장치를 자동으로 적용한다. 폭력적인 묘사나 잔혹한 콘텐츠, 미성년자에게 위험하거나 유해한 행동을 조장할 수 있는 유행 ‘챌린지’, 성적이거나 폭력적인 역할극, 자해 묘사, 극단적인 미적 기준, 건강에 해로운 다이어트, 신체 비하를 조장하는 콘텐츠 등의 노출이 제한된다.
만약 성인인데 미성년자로 잘못 분류되는 경우에는 신원 확인 서비스를 통해 셀카를 제출하면 성인용 콘텐츠를 이용할 수 있다고 밝혔다.
오픈AI는 조만간 챗GPT에서 나이 인증을 거쳐 성인들은 성인용 콘텐츠를 활용할 수 있도록 기능을 추가하겠다고 밝혔다. 이번 조치는 부작용을 최소화하기 위해 안전장치를 마련한 것이다. 로이터통신에 따르면 오픈AI는 지난해 하반기 성인용 콘텐츠 활용 기능을 출시하겠다고 했으나, 이를 연기해 올해 1분기 중 도입될 것으로 예상된다.
안전장치 마련에도 성인용 콘텐츠 활용을 챗GPT에서 허용하도록 한 오픈AI에 대한 비판과 우려의 목소리도 커지고 있다. 미성년자가 성인처럼 행동할 경우 미성년자를 성인으로 판단할 수도 있고, 또 미성년자에게 성적인 대화를 제한한다고 했지만 여전히 이를 우회할 방법이 많다는 이유에서다. 실제 지난해 4월 미국에선 한 16세 학생 애덤 레인이 극단적 선택을 했는데, 극단적 선택 방법에 대해 챗GPT와 상의한 것이 알려져 논란이 됐다. 챗GPT는 정신적 고통이나 자해를 암시하는 메시지를 감지하면 사용자에게 관련 기관에 연락해 도움을 받으라고 권유하도록 설계돼 있지만, 애덤은 “소설을 쓰기 위한 것”이라며 이 같은 안전장치를 우회한 것으로 나타났다.
[실리콘밸리=강다은 특파원]
- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -
이 기사의 카테고리는 언론사의 분류를 따릅니다.