"어린이·청소년, 큰 영향"…네이버 이해진이 걱정한 것

"문화·역사적 가치 존중하는 AI 모델 필요"

이해진 네이버 글로벌투자책임자가 인공지능(AI)에도 다양한 시각을 가진 모델이 필요하다고 강조했다.

이해진 네이버 글로벌투자책임자(GIO)가 인공지능(AI)에도 다양한 시각을 가진 모델이 필요하다고 강조했다. 이용자가 정보를 선택할 수 있는 검색과 달리, AI 시대에는 AI가 주는 답변을 곧바로 수용하는 이용자들의 행태가 심해질 수 있기에 경각심을 가져야한다는 주장이다.

이해진 GIO는 지난 21일 'AI 서울 정상회의' 정상 세션 화상회의에 참가해 "안전한 AI를 위해서는 각 지역의 문화, 가치를 존중하는 책임감 있는 다양한 AI 모델들의 등장이 필요하다"며 이같이 밝혔다.

그는 "검색으로는 이용자들이 하나의 키워드로 다양한 검색 결과에서 정보를 선택하지만, 바로 답을 제시하는 AI는 선택의 여지가 없이 답을 얻는 방식"이라며 "이런 AI의 특성은 특히 어린이나 청소년에게 매우 커다란 영향을 미치기 때문에 AI 안전성이 중요하게 고려돼야 한다"고 했다.

이 GIO는 '과거를 지배하는 자는 미래를 지배한다. 현재를 지배하는 자는 과거를 지배한다'는 조지 오웰의 소설 <1984>의 문장을 인용하며 "극소수 AI가 현재를 지배하게 되면 과거 역사, 문화에 대한 인식은 해당 AI의 답으로만 이뤄지게 되고, 결국 미래까지 해당 AI가 큰 영향을 미친다"고 지적했다.

그러면서 "이 때문에 다양한 시각을 제시하고 각 지역의 문화적, 환경적 맥락을 이해하는 다양한 AI 모델들이 많이 나와야 한다"고 강조했다.

그는 또한 "역사에도 다양한 시각이 존재한다"며 "다양한 AI 모델로 각국의 문화 등 다양성을 지킬 수 있고, 어린이들, 청소년들도 제대로 된 역사관, 시각을 가질 수 있다"고 덧붙였다.

네이버의 AI 안전 프레임워크의 공개 계획도 밝혔다.

이 GIO는 "네이버는 다양성을 통해 연결이 더 큰 가치를 창출할 수 있도록 기술과 서비스를 실현해왔고, AI 윤리 준칙 발표에 이어 더욱 구체화 된 AI 안전 실행 프레임워크인 '네이버 AI 세이프티프레임워크(Safety Framework)'를 다음달 공개할 예정"이라며 "책임감 있는 다양한 AI 모델들이 나와 많은 글로벌 국가들이 자체 소버린 AI를 확보할 수 있도록 어떤 형태든 기술로 지원해 나갈 것"이라고 밝혔다.

한편 AI 서울 정상회의에 참석하기 위해 내한한 미셸 더넬란 영국 과학혁신기술부 장관 일행은 이날 경기도 성남시에 위치한 '네이버 1784'를 방문했다. 이곳은 네이버가 만든 기술 융합형 공간이자 로봇 친화형 빌딩이다. 네이버 측에서는 최수연 대표와 김유원 네이버클라우드 대표, 석상옥 네이버랩스 대표, 하정우 네이버클라우드 AI이노베이션 센터장 등이 장관 일행을 맞이했다.

이 자리에서 최 대표는 AI가 사회에 미칠 수 있는 부작용을 가장 먼저 고민하기 시작한 기업이 네이버라는 점을 강조하며 안전하고 지속가능한 AI 생태계 구축을 위한 그간의 노력을 설명했다. 네이버는 AI 서비스 출시 과정에서 사회적 관점을 더할 수 있는 AI 윤리 자문 프로세스를 운영하는 한편 최근 주목받는 생성형 AI 기술의 안전성 강화를 위한 '레드팀'을 운영 중이다.

지난 21일 경기도 성남시 '네이버 1784' 건물 내 AI, 로봇 등 첨단 기술을 체험하고 있는 미셸 더넬란 영국 과학혁신기술부 장관 일행/사진=네이버 제공

ⓒ비즈니스워치(www.bizwatch.co.kr) - 무단전재 및 재배포금지