이광형 총장 “AI 자기복제 막아야…기술적 통제 필요”

과기정통부 'AI안전연구소' 설립 계획 밝혔는데

이광형 KAIST 총장 "AI통제기술 필요..통제 벗어나면 못되돌려"

"인간과 컴퓨터 연결하는 바이오닉스도 제재 기술 필요"

"AI 선규제는 외국 지배 놓일 수 있어 반대"

[이데일리 김현아 강민구 기자] 과학기술정보통신부가 올해 주요 업무 계획으로 ‘AI안전연구소’를 설립하겠다고 발표한 가운데 인공지능(AI)석학인 이광형 KAIST 총장은 AI 선규제에는 반대하지만 기술적 통제는 필요하다고 밝혔다.

그는 지난 7일 진행된 이데일리와의 인터뷰에서 AI의 자체 복제 가능성에 대한 우려를 표명하며 “AI가 컴퓨터 바이러스처럼 자체 복제와 전파 능력을 가지면 안 된다. AI 통제 기술에 소홀해지면 AI는 통제에서 벗어나 새로운 환경을 조성할 것”이라고 경고했다. 그리고 “외부로 나간 AI를 되돌리기 어려울 것”이라고도 덧붙였다. AI의 안전평가에 대한 관심은 국내 뿐 아니라 미국의 USAISI(US AI Safety Institute), 영국의 AISII(AI Safety Institute), 일본의 AI안전연구소 등에서도 나타나고 있다.

이 총장은 인간과 컴퓨터를 연결하는 바이오닉스(BCI·Brain-Computer Interface) 기술도 제재 기술이 필요하다고 했다. 이 총장은 최근 가장 주목받는 BCI 개발 업체로 일론 머스크의 뉴럴링크를 언급하고 “BCI 기술은 인간의 뇌를 더 정교하게 읽어내는 쪽으로 발전하고 있다. 이는 사생활 침해와 독재자의 사상통제 등 악용 가능성이 있다”고 우려했다. 뉴럴링크는 뇌 속에 칩을 심어 뇌와 컴퓨터가 신호를 주고받는 기술을 개발 중인데, 머스크는 AI와의 경쟁에서 패하지 않으려면 이렇게라도 인간의 능력을 증강시켜야 한다는 입장이다.

한편 그는 AI 규제를 서둘러 도입하지 말아야 한다고 주장했다. “미국과 중국이 AI 규제 논의에서 천천히 후퇴하는 모습을 주시해야 한다”고 말하며 “우리나라는 아직 AI를 잘 활용하지 못하고 있다. 물론 AI가 인간의 생활을 악화시킬 가능성이 있지만 AI의 지배에 놓이느냐 아니냐보다는 우리가 외국의 지배에 놓이느냐 아니냐가 더 중요하다”고 강조했다.

이광형 KAIST 총장