오픈AI "아동 안전팀 구성했다"…AI 논란 대처할 것

[AI리포터]

오픈AI가 아동 안전팀을 구성하고 아동 안전 집행 전문가를 채용할 예정이다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 오픈AI가 아동 안전팀을 구성하고 아동 안전 집행 전문가를 채용할 예정이라고 7일(현지시간) IT매체 테크크런치가 전했다.

이는 미성년자 사용자층을 확보할 것으로 예상되는 오픈AI가 미국 아동 온라인 개인정보 보호 규정 등을 준수하고자 하는 조치로 보인다. 새로운 오픈AI의 아동 안전팀은 인공지능(AI)으로 생성된 콘텐츠에 오픈AI의 정책을 적용하고 민감한 콘텐츠와 관련된 검토 프로세스를 담당 및 처리할 예정이다.

어린이와 청소년은 학업뿐만 아니라 개인적인 문제에도 점점 더 생성형 AI 도구를 찾고 있는 것으로 나타났다. 이러한 현상에 대한 위험성과 안전 의식 재고가 화두로 떠오르고 있다. 이에 오픈AI는 교실에서 생성형 AI를 교육 도구로 사용하는 방법에 대한 교육자 지침을 제공하기 위해 안내문과 FAQ를 게시하기도 했다.

한편 유엔교육과학문화기구(UNESCO)는 교육 분야에서 생성형 AI 사용을 규제하고, 사용자 연령 제한과 데이터 보호 및 사용자 개인정보 보호에 대한 가드레일을 도입할 것을 촉구했다.

앞서 오픈AI는 어린이 친화적인 AI 가이드라인에 대한 협력을 위해 비영리 단체 커먼센스 미디어(Common Sense Media)와의 파트너십을 발표한 바 있다. 이후 첫 교육 고객을 확보한 지 몇 주 만에 아동 안전 팀을 구성했다.

오픈AI의 이와 같은 행보는 미성년자의 AI 사용과 관련된 정책과 부정적인 언론에 대한 오픈AI의 경계심을 내포하고 있는 것으로 보인다고 매체는 분석했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>