[국감2024]오는 8일 국정감사 AI 설전…딥페이크 문제 비롯한 산학계 현안 묻는다

[디지털데일리 오병훈기자] 2024년 국정감사(이하 국감)가 본격적으로 막이 오른 가운데, 과학기술정보방송통신위원회(이하 과방위)를 중심으로 인공지능(AI) 관련 현안도 감사 주제로 다뤄진다. 과방위 소속 국회의원들은 관련 업계 및 학계 관계자를 국감장으로 불러 최근 사회적으로 논란이 됐던 딥페이크 성범죄 문제를 비롯해 전반적인 AI 현안을 물을 예정이다.

7일 국회에 따르면 최형두 의원(국민의힘), 이해민 의원(조국혁신당) 등 과방위 소속 의원들은 과학기술정보통신부 감사가 진행되는 내일(8일) AI 업계 관계자를 증인 및 참고인으로 소환한다. 증인 및 참고인 명단에는 네이버클라우드, 스노우를 비롯한 AI 커뮤니티 플랫폼 ‘모두의연구소’, 한국과학기술원(KAIST) 등 산학계 관계자들이 이름을 올렸다.

먼저 이 의원은 ‘스노우’ ‘소다’를 운영 중인 김창욱 스노우 대표를 증인 자격으로 소환한다. 스노우는 네이버 자회사로 스노우와 소다를 비롯한 카메라 앱 ‘B612’ ‘푸디(Foodie)’ 등을 운영 중이다. 최근 스노우 및 소다는 딥페이크 문제와 관련해 기능상 이유로 논란 중심에 섰다.

문제로 지목된 것은 AI 합성 서비스 ‘AI헤어샵’과 ‘AI배경확장’이다. AI 보정 과정을 거친 결과물로 선정적인 이미지가 출력된 탓이다. 소다 AI배경확장에서는 이용자 증명사진 기반으로 여성 이용자가 가슴을 움켜쥐는 모습을 출력하거나, 스노우 AI헤어샵에서는 이용자 얼굴을 합성한 상반신 나체 이미지가 생성되는 등 부작용이 나타난 것으로 알려졌다.

이에 대해 스노우 운영진은 각 앱 공지사항을 통해 사과문을 게재했다. 스노우 운영진은 “현재 AI 기술 상 한계로 이미지 생성 엔진에서 불완전한 결과물이 산출될 가능성이 존재한다”며 “스노우는 선정적이거나 혐오스러운 이미지 생성을 최대한 억제하는 기술을 사용하고 있으나, 문제가 된 내용은 스노우 AI 모델 한계로 완벽히 통제되지 못한 사례로 확인된다”고 해명했다.

이에 이 의원은 김창욱 스노우 대표를 증인으로 불러 사건 경위 및 재발 방지 대책 등에 대해 질문할 예정이다. 이 의원실 관계자는 “증명 사진 합성 과정에서 선정적인 이미지를 출력하는 것이 플랫폼 측 기술적 책임도 있다고 보고 증인으로 소환하게 됐다”며 “스노우 측은 ‘다양한 오픈 소스를 이용해서 서비스를 하고 있기 때문에 데이터 통제 등에 관여할 수 없다는 입장인데, 앱 구동 과정에서 필터링하는 것도 사업자 몫이라고 보고 있다”고 설명했다.

최 의원은 ‘AI 현안 관련’을 신문요지 및 신청이유로 기재하면서 ▲하정우 네이버클라우드 AI이노베이션센터 센터장 ▲김승일 모두의연구소 대표 ▲최재식 KAIST 설명 가능한 AI연구센터장 등 총 3인을 참고인 자격으로 국감장에 불렀다.

구체적인 신문 요지에 대해서 최 의원실 관계자는 “아직 공개할 수 없다”고 밝혔다. 다만, 최 의원이 AI기본법과 관련해 ‘조속한 입법 후 수정’ 입장을 고수하면서 산업 진흥 및 혁신에 무게추를 두고 있다는 점, 소환된 3인 모두 참고인 자격으로 불렀다는 점 등을 고려해볼 때 AI 기본법 입법을 앞두고 업계 현황과 AI 기술 우려에 대한 전문가 의견을 청취하기 위한 질의가 이어질 것으로 전망된다.

최 의원은 지난달 24일 열린 AI 기본법 공청회에서 “각 토론자 발표를 들어 보면, 용어 하나에 너무 엄밀해지면 법안을 만들 수 없다. AI 기본법은 헌법 아닌 제정법”이라며 “문제가 발견되면 계속 보완해 제정할 수 있다”고 강조한 바 있다.

참고인 3인 모두 국내 AI 기술 핵심 인사라는 점도 이같은 전망에 힘을 싣는다. 하정우 센터장은 네이버 내 AI 사업을 주도하는 인물 중 하나로, 지난달 사우디아라비아에서 개최된 ‘AI서밋2024’에 최수연 네이버 대표와 동행하기도 했다. 공식 석상에서도 네이버가 강조하고 있는 ‘소버린AI(국가나 기업 자체 인프라·데이터로 독립 AI 구축, 주권을 확립하자는 움직임)’ 중요성을 알리는 등 왕성한 활동을 이어오고 있다.

김승일 대표가 운영 중인 모두의연구소는 AI를 비롯한 소프트웨어(SW) 지식 공유 플랫폼으로 교육서비스·세미나·연구소 등을 운영하고 있다. 최재식 센터장이 지휘하고 있는 KAIST 설명가능한 AI연구센터는 AI가 고질적으로 품고 있는 ‘블랙박스’ 문제 등을 해결하기 위한 활동을 지속하고 있다. 블랙박스 문제란 AI의 구체적인 작동원리를 산학계가 명확히 해명하지 못하고 있는 문제를 의미한다.

한 과방위 소속 의원실 관계자는 “문제제기를 해본다면, 네이버클라우드 소속 하정우 센터장이 나오는 만큼 데이터센터 민원 문제를 질의할 수도 있겠다”며 “주로 AI 산학계 현황과 AI에 대한 국민의 우려 시선을 해소해 줄 전문가 소견을 물어볼 것으로 보인다”고 예측했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -