"AI를 전기처럼 신뢰할 수 있게"…‘AI 글로벌 포럼’ 전문가들

AI서울 정상회의 ‘AI 글로벌 포럼’ 전문가 세션

AI전환도 인간 중심으로 접근해야

AI 유용하지만 디지털 양극화 부추겨

국가마다 다른 AI 규제, 표준화 필요

AI 리터러시(이해력) 교육 필요

[이데일리 강민구 기자] 인공지능(AI)은 인간의 삶에 유용하지만, 전기처럼 신뢰할 수 있는 기술로 만들어야 한다는 지적이 제기되었다. 디지털 소외로 인한 양극화 문제를 해결하고, 사이버 범죄와 딥페이크 같은 부작용을 줄이기 위한 대책이 필요하다는 것이다. AI 전환도 인간 중심으로 이뤄져야 하고, 각국마다 다른 AI 규제를 표준화해야 한다는 필요성도 언급됐다.

‘AI 글로벌 포럼’ 전문가 세션에서 참석자들이 논의하고 있다.(사진=이데일리 강민구 기자)

22일 서울 성북구 한국과학기술연구원(KIST)에서 열린 AI서울 정상회의 ‘AI 글로벌 포럼’ 전문가 세션에서는 생성형AI 등 기술이 빠르게 발전하는 상황에서 디지털에 익숙한 젊은 세대는 디지털 중독현상을 겪는 반면 노년층은 배제돼 사회적 불평등이 심화될 수 있다는 점이 화두가 됐다. 파멜라 크르지프코프스카(Pamela Krzypkowska) 폴란드 디지털부 국장은 “폴란드에서는 디지털 시대 정신건강을 중요하게 여기는데 젊은 세대들이 온라인플랫폼에서 6시간 이상을 보내는 것으로 나타나 새로운 문제가 발생하고 있다”면서 “젊은이들을 위한 안전한 온라인 환경을 조성할 필요성이 커지고 있다”고 지적했다.

최근에는 생성형AI가 발전하면서 저작권 문제, 데이터 자산 보호 범위와 같은 기존 법률 체계와 시스템에 변화도 요구되고 있다. 딥페이크에 의한 가짜 뉴스 등 디지털 사회로 인한 문제도 발생하고 있어 개인과 사회를 보호하기 위한 효과적인 대응도 필요하다.

마커스 안데리융(Markus Anderljung) AI 거버넌스 센터 정책 책임자는 “AI는 범용시스템으로 유용하지만 인간 권리가 침해되는 경우가 발생해 사회가 기본적으로 적응해야 한다”면서도 “사이버 보안 등 AI 기술을 이용한 범죄 등 부작용에 대응하기 위해 딥페이크 방지 필터 적용 등 도구를 제공하는 한편 AI가 전기처럼 중단되지 않고 신뢰가능한 체계로 운영될 수 있도록 AI 안전성을 추구해나가야 한다”라고 지적했다.

하정우 네이버클라우드 AI이노베이션 센터장이 발언하고 있다.(사진=이데일리 강민구 기자)

이를 위해 국제 협력과 표준화 체계 구축은 과제로 제시됐다. 이성웅 아마존웹서비스(AWS) 코리아 AI/ML 정책 총괄은 “전 세계 각국 정부가 도전에 직면해 있는데 상호운용 가능한 정책 솔루션이 필요하며, 국제 기준을 통해 표준화했으면 한다”라고 말했다.

제리 시한(Jerry Sheehan) OECD 과학기술혁신국 사무총장은 디지털 전환도 인간 중심 방식으로 접근해 발전해야 하며, 인권에도 영향이 있어 디지털 정책에서 가드레일 같은 역할이 필요하다고 봤다.

그는 “AI는 기회인 동시에 양극화를 심화할 수 있는데 OECD는 다양한 이해관계자를 모으고, 인권에 기반한 정책 입안을 지지하기 때문에 사회적 합의를 통해 디지털 웰빙이 이뤄지도록 역할을 하겠다”고 설명했다.

기업에서는 디지털 사회의 기본권 보장, 지속적인 혁신 육성, 글로벌 협업을 통해 AI 기술을 계속 개발하면서 미래 세대를 위해 혜택을 줘야 한다는 시각도 있었다.

하정우 네이버클라우드 AI이노베이션 센터장은 “AI 리터러시(이해력)가 모든 사람들에게 갖춰져야 하며, 디지털 권리를 보장하기 위해 이해관계자들의 노력도 필요하다”며 “네이버는 AI 기술과 디지털 기술로 삶의 만족도를 높이는 한편 개인 프라이버시 침해 문제 등 부작용도 장기적으로 대응할 계획”이라고 강조했다.

정부는 AI 규제 체계나 합의가 제대로 이뤄지지 않은 상황에서 향후 이를 해결하기 위해 논의가 계속 이뤄져야 한다고 했다.

강도현 과학기술정보통신부 2차관은 “정부 뿐만 아니라 국제협력개발기구(OECD)와 같은 국제기구와 국제 사회의 역할도 중요하다”며 “많은 나라와 국제기관들이 새로운 규제를 시도하지만 표준화되지 않은 경향이 있는데 이런 부분들을 조화롭게 구성해 표준화하도록 정부도 노력할 계획”이라고 밝혔다.