배순민 KT 상무 “AI 안전·신뢰성 확보에 투자 늘려야”

초거대AI추진협의회가 주최하고 한국소프트웨어산업협회, 전자신문이 주관하는 제4회 AI 인사이트 포럼이 29일 서울 강남구 삼정호텔에서 열렸다. 배순민 KT AI2X랩장(상무)이 '인공지능을 주도로 하는 디지털 전환(AI Driven Digital transformation)'을 주제로 발표하고 있다. 김민수기자 mskim@etnews.com

정부와 기업이 인공지능(AI) 반도체, AI 프로세서 등에 대한 투자는 활발히 하는 반면 AI 안전·신뢰에 대한 투자는 소홀히하고 있다는 지적이 나왔다.

초거대AI추진협의회 주최, 한국소프트웨어산업협회·전자신문 주관으로 29일 열린 '제4회 AI 인사이트 포럼'에서 배순민 KT 기술혁신부문 AI2X랩장(상무)은 “우리나라 기업이나 학교는 AI 반도체, AI 프로세서에 많은 투자와 활동을 하고 있지만 안전이나 신뢰에 대한 투자는 미흡하다”면서 “국가 R&D 어젠다로 잡았지만 제안 과제들이 거의 없다”고 말했다.

배 상무는 “지난달 미국에서 엔비디아가 주최한 'GTC 2024' 행사 세션에 참여해보니 세계적으로도 'AI 윤리· 안전·책임' 분야들은 시작 단계이기 때문에 아직 해야 할 것이 많다는 것을 느꼈다”며 “우리나라는 이 분야에서 국제적으로 리딩할 수 있는 수준이 되도록 많은 투자를 해야 한다”고 말했다.

그는 KT도 최근 AI 윤리·신뢰성 확보에 공을 들이고 있다고 설명했다.

KT는 지난해 AI 윤리원칙을 수립하고 통신 AI 산업 발전을 위한 백서를 발간했다. 지난 23일에는 안전하고 믿을 수 있는 AI 기술을 제공하기 위해 'RAIC(Responsible AI Center, 책임감 있는 인공지능 센터)'를 신설했다.

배 상무는 “AI는 국제적으로 군용 무기화되고 악의적으로 개인의 심리를 조작하는 등 위험이 커지고 있다”며 “KT는 RAIC를 세우면서 △포괄성 △투명성 △신뢰성 △지속가능성 등 총 4가지를 토대로 정책을 수립하고, 외부 협력 및 모니터링을 하고 있다”고 밝혔다.

배 상무는 이 중에서도 AI 투명성을 강조하며 “현재 딥러닝의 프레임워크는 투명하게 만들기가 정말 힘듦에도 불구하고 기술적 투명성과 커뮤니케이션 정보의 투명성을 계속 유지해야 한다”며 “투명성은 지금 글로벌에서 밀고 있는 하나의 키워드이기도 하다”라고 언급했다.

그는 “AI 안전·신뢰에 관한 것은 앞으로 모든 기업이 갖춰야 할 기본 요소로 이번 GTC 2024 행사에 갔을 때 세션 외에 가장 많이 초대받았던 그룹 미팅이 '책임 있는 AI'였다”면서도 “물론 기술로 모든 것을 책임질 수는 없다는 등 책임 있는 AI에 대한 부정적 의견도 있었다”고 전했다.

이어 “KT의 RAIC 역시 AI 안전·신뢰에 대해 기술적으로 접근하기는 쉽지 않지만 적어도 기업 윤리 차원에서 계속해서 지켜나갈 수 있도록 하겠다”고 밝혔다.

현대인 기자 modernman@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]