기술 빠르고 규제 복잡…글로벌 전문가들 "AI 표준 필요하다"

12~13일 서울대 주최 '서울 AI 정책 콘퍼런스'

"사이버 보안 강조되며 전 세계적 AI 규제 쓰나미'"

"자율주행車, 더 많은 주의 필요…신뢰 있어야"

日, 법 개정 속도…韓, 'AI안전연구소' 연내 설립

[이데일리 김범준 기자] 전 세계 인공지능(AI) 전문가들이 한자리에 모여 AI 기술 발전과 관련 규제를 두고 글로벌 ‘표준화’와 ‘거버넌스(협력 제반 장치)’ 등 사회적 담론에 대한 심도 있는 논의를 펼쳤다. 12일 서울 중구 페럼타워에서 열린 ‘서울 AI 정책 콘퍼런스 2024’에서다.

이번 행사는 서울대 법과경제연구센터 주최와 AI인스티튜트(AIIS) 및 한국인공지능법학회 후원으로, 오는 13일까지 양일간 AI 표준·거버넌스·경쟁·인권·프라이버시·저작권·허위정보 등 총 8개 부문 세션으로 진행된다.

12일 서울 중구 페럼타워에서 열린 ‘서울 인공지능(AI) 정책 콘퍼런스 2024’에서 제이슨 메튜소 마이크로소프트 기업표준 총괄관리자가 ‘인공지능의 표준 이야기’를 주제로 한 특별 강연을 하고 있다.(사진=김범준 기자)

제이슨 메튜소 마이크로소프트 기업표준 총괄관리자는 이날 ‘인공지능의 표준 이야기’ 주제 특별 강연을 통해 “사이버 보안은 기술 구입 후 고려 사항에서, 기술을 도입하기 전에 생각해야 하는 것으로 변화했다”며 “클라우드가 중요한 인프라로써 국가 안보와 주권을 고려해야 한다는 개념으로 전환하면서 전 세계적으로 사이버 보안 ‘규제 쓰나미’가 일고 있다”고 진단했다.

이어 “개인정보 보호, 사이버 보안, AI의 지속 가능한 접근성, 비(非)개인 데이터 등 모든 개념이 모든 부문에 동시다발적이지만 일관성 없게 적용될 것”이라며 “예를 들어 누군가의 잊혀질 권리를 보호해야 한다는 개인정보보호법과, 금융 사기를 보호하기 위해 데이터를 보유해야 한다는 은행법이 상충될 수 있다”고 전망했다. 그러면서 “윤리적 문제와 법적 규범 등을 해결할 수 있도록 ‘AI 표준’을 제시함으로써 책임감 있는 경로를 구축할 수 있다”고 봤다.

첫 번째 세션은 ‘AI 표준’을 두고 ‘거버넌스의 도구로서의 AI 표준’을 주제로 1차 패널 토론이 벌어졌다.

조지 콘트레라스 미국 유타 대학 교수는 “표준이 최고의 성능을 발휘하는 기술을 생성하기 위한 것은 아니다”라면서 “터무니없는 표준 확산 경쟁이 발생할 수 있기 때문에, 표준화 작업을 국제전기통신연합(ITU) 등 정부 또는 국제기관 차원에서 개발할 것인지를 결정해야 한다”고 제언했다.

신수용 카카오헬스케어 연구소장(이사) 겸 개인정보보호책임자는 “의료 분야는 가장 규제가 심한 산업 중 하나이므로 균형 잡힌 시각에서 입법을 고려해야 한다”며 “광범위하게 적용 가능한 단일 표준을 개발하는 것은 매우 어려운 일”이라고 말했다.

카를로스 이냐시오 구티에레즈 미국전기전자공학회(IEEE) AI정책위원회 부의장은 “글로벌 거버넌스에 근접한 유일한 것은 표준”이라며 “더 나은 경쟁이 필요하기 때문에 가까운 표준을 마련하는 게 유일한 희망”이라고 주장했다.

12일 서울 중구 페럼타워에서 열린 ‘서울 인공지능(AI) 정책 콘퍼런스 2024’에서 ‘자율주행자동차를 위한 AI 표준’을 주제로 한 패널 토론에서 브라이언트 워커 스미스(맨 오른쪽) 미국 사우스캐롤라이나 대학 교수가 발언하고 있다. 왼쪽부터 브라이언 최 미국 오하이오 대학교 교수, 장성욱 카카오모빌리티 부사장, 루 펭 미국 버지니아 대학 교수, 스미스 교수.(사진=김범준 기자)

2차 패널 토론은 ‘자율주행자동차를 위한 AI 표준’을 주제로 브라이언 최 미국 오하이오 대학 교수가 좌장으로 이끌었다.

장성욱 카카오모빌리티 부사장은 토론에서 “보행자 얼굴과 차 번호판 등 영상정보의 빠른 익명(가명)처리와 활용이 필요하다”며 “기술은 이미 있기 때문에 법과 규제 개선으로 데이터를 수집·제공하기 위한 생태계 강화 노력이 따르고 AI 표준 정책이 자율주행을 현실화할 것”이라고 강조했다.

브라이언트 워커 스미스 미국 사우스캐롤라이나 대학 교수 “안전성 통과는 일회성이 아닌, 결혼식과 같은 평생의 약속”이라며 “완전무인자율주행(레벨4) 시스템은 역설적으로 더욱 많은 주의를 기울이는 운전자가 필요하다. 완전 자율주행이라고 할 때 신뢰할 수 있는 규제에 대한 논의가 이뤄져야 한다”고 역설했다.

두 번째 세션은 ‘AI 거버넌스의 글로벌 현황’을 주제로, 임용 서울대 법학전문대학원 교수 겸 인공지능 정책 이니셔티브(SAPI) 디렉터가 좌장을 맡은 ‘주요 AI 거버넌스 모델 : 수렴과 분화’ 3차 패널 토론이 이어졌다.

요시나가 교코 일본 게이오 대학 교수는 “일본은 경제 성장과 사회적 과제 해결을 동시에 실현하는 인간 중심 사회인 ‘소사이어티(Society) 5.0’을 목표로 설정한 혁신이 필요하다”며 “디지털 플랫폼의 투명성과 공정성을 보장하기 위해 기존 법령을 손질하고, 도로 교통 및 운송 차량 등 특정 조건에서 AI 주행이 가능하도록 법을 개정하고 있다”고 소개했다.

남철기 과학기술정보통신부 인공지능기반정책과장은 “미국과 영국 등 각국에서 ‘AI안전연구소’를 운영하고 있는데, 한국에서도 AI안전연구소를 연내에 설립하기 위한 입법을 진행하고 있다”며 “AI 발전 속도가 빨라 모든 것을 다 담을 수 없기 때문에 필요 최소한의 골격으로 마련하고, 부작용 등 사례 발생 시 입법 보완을 하는 방식으로 국회와 협의 중”이라고 밝혔다.