"AI 후발주자? AI·데이터 규범은 한국이 제일 앞섰다"

[머투 초대석]고학수 개인정보보호위원회 위원장

고학수 개인정보보호위원회 위원장 인터뷰 /사진=김휘선 기자 hwijpg@

개인정보 규제 때문에 혁신 기술을 활용한 산업을 육성하기 어렵다는 지적이 있다. 신기술을 활용한 신제품과 서비스를 출시하려고 해도 촘촘한 개인정보 보호 관련 규정이 발목을 잡는다는 비판이다.

지난 10월 임기 2년째를 넘어선 고학수 개인정보보호위원회(개인정보위) 위원장은 "그렇지 않다"고 단언한다. 생성형 AI(인공지능) 등 기술 개발은 한국이 미국 등 주요국에 비해 후발주자여도, 해당 산업이 경제·사회 전반에 자리잡는 과정을 도모하는 법제 생태계 측면은 뒤처지지 않았다는 것이다.

그는 "다른 나라에서는 안전한 AI를 위한 규제를 어떻게 만들어야 할지 논의를 시작하는 수준인 반면 우리나라는 관련 가이드라인만 벌써 5~6개를 내놨다"며 "다른 나라가 아직 총론을 마련하는 수준이라면 우리나라는 이미 각론을 구체화하는 수준"이라고 밝혔다. 혁신 친화적 생태계를 구축하기 위한 규범은 한국이 가장 앞섰다는 설명이다.

2022년 10월 임기 3년 장관급 중앙부처인 개인정보위 수장으로 임명된 고 위원장은 같은 해 11월 챗GPT를 시작으로 생성형 AI의 활용이 본격화된 이후 신뢰할 수 있는 AI 활용기반을 마련하기 위한 작업에 착수했다. 다음은 안전한 AI 활용 환경 조성 및 데이터 경제 인프라 확충을 위해 고 위원장과 개인정보위가 어떤 노력을 기울여 왔는지에 대한 일문일답이다.

- 취임 후 2년 2개월간 거둔 성과가 궁금합니다.

▶2022년 10월 취임했는데, 그 해 11월 챗GPT가 나왔습니다. AI로 세상이 바뀔 것이라는 신호라고 생각했습니다. 다행스럽게도 적절한 시기인 지난해 3월 개인정보보호법 전면 개정이 이뤄졌고, 데이터 경제 성장을 지원할 수 있는 법적 근거가 보강돼 구체적으로 실행할 수 있는 계기가 마련됐습니다.

개인정보위 내부 TFT(태스크포스팀)가 지난해 초부터 가동돼 한 해 동안 총론을 마련하는 데 주력했고, 올해는 '공개된 개인정보 활용 안내서', '이동형 영상기기 촬영정보 활용 안내서', '합성정보 활용 안내서', 'AI 프라이버시 리스크 관리모델' 등 AI·데이터 처리 안내서와 같은 각론을 만들었습니다. 내년에는 'AI 2.0' 시대를 대비하기 위해 각론을 더 구체화하는 방안을 고민하고 있습니다.

글로벌 빅테크(대형 IT기업) 제재도 큰 성과입니다. 구글·메타와 같은 기업에 대해 조사 및 처분을 하려면 기술, 법제, 비즈니스 환경에 대한 이해와 역량이 필요합니다. 미국·유럽 이외의 나라에서는 이런 역량을 갖춘 곳이 매우 적은데, 우리가 해냈다는 것은 그만한 역량을 쌓았다는 의미입니다. 글로벌 컨퍼런스에서 우리나라가 새롭게 주목받는 이유입니다.

고학수 개인정보보호위원회 위원장이 23일 오전 서울 중구 더 플라자 호텔에서 열린 '인공지능과 데이터 거버넌스 국제 컨퍼런스'에서 세션토론에 참가하고 있다. (개인정보위 제공) 2023.5.23/뉴스1 Copyright (C) 뉴스1. All rights reser·ved. 무단 전재 및 재배포, AI학습 이용 금지.

- 생성형 AI와 관련 앞으로 우려되는 사항은 무엇입니까.

▶생성형 AI 초기 가장 큰 우려는 학습데이터를 어떻게 구축할지, AI를 통해 얻어지는 잘못된 결과값을 어떻게 예방·제거할지에 대한 부분이었습니다. 이에 올해는 학습데이터를 어떻게 구축할지, 특히 공개된 데이터나 비정형 데이터 등 영역에서 수집·처리할 때 어떤 기준을 적용할지에 대해 구체적인 가이드라인을 제시했습니다.

내년에는 새로운 트렌드로 떠오른 'AI 에이전트(Agents) 및 비서(Assistant)' 관련 분야를 집중 고민하려고 합니다. AI 에이전트가 제대로 역할을 하려면 기존 일정이 어땠는지, 식당 예약 시 선호하는 메뉴는 무엇인지 등 주인 격인 이용자에 대해 잘 알아야 하는데, 이는 모두 개인정보입니다. 따라서 AI 에이전트를 온디바이스 AI(기기장착형 AI)로 할지, 클라우드로 해도 될지에서부터 AI 에이전트가 정말 이용자 이익을 100% 대변해서 작업할지, 그렇지 않고 다른 이해관계가 반영될 여지가 있을지 등의 고민이 있을 것으로 보입니다.

- 한국의 AI 규제는 어떤 형태여야 한다고 생각하십니까.

▶AI 기술을 둘러싼 국제 사회의 경쟁이 가속화되고 국가마다 자국의 AI 산업 여건, 글로벌 시장에서의 입지 등을 고려해 국익에 부합하는 정책과 법제를 만들어가고 있습니다. 우리나라가 AI 분야에서도 기술강국 입지를 유지·발전하려면 AI 기술의 도입·활용에 필요한 혁신 친화적 환경 조성이 첫 번째 규제 원칙이 돼야 합니다. 다만 복잡한 AI 생태계에서 모든 분야에 자원을 투입하기란 현실적으로 어렵습니다. 우리가 할 수 있는 비교우위 영역에 국가 차원의 집중 지원이 필요합니다.

두 번째로 기술 변화가 빠르게 일어나는 AI 분야의 특성상 일일이 규정을 만들어 하나하나 규율하기보다는 원칙 중심의 방향을 제시하는 유연한 규율 체계를 만들고, 리스크에 기반한 비례적 규율체계를 단계적으로 도입해야 합니다. 리스크는 '발생할 확률'과 '영향의 크기' 두 개의 요인에 따라 평가됩니다. 얼마 전 AI 프라이버시 민관 정책협의회가 함께 만든 'AI 프라이버시 리스크 관리 모델'은 이 같은 개인정보위의 고민이 담긴 1차 결과물입니다.

세 번째로 기업이 개별 상황에서 스스로 판단·평가할 수 있는 시스템을 갖춰야 합니다. 기업 스스로 판단이 어려우면 기업의 불확실성을 최소화할 수 있도록 개인정보위와 같은 규제·감독 기관이 같이 협의하거나 고민할 수 있는 제도적 장치가 필요합니다. 개인정보위가 운영하는 사전적정성 검토제, 규제 샌드박스 등도 이런 맥락에서 추진 중입니다.

고학수 개인정보보호위원회 위원장 인터뷰 /사진=김휘선 기자 hwijpg@

-마이데이터는 현재 어떻게 진행되고 있습니까.

▶마이데이터는 전 분야가 대상이라 이해관계자도 많고, 제도 초기인 만큼 많은 시간과 준비가 필요합니다. 실제 유통 분야가 규제개혁위원회 심사에서 관련 업계와 충분한 공감대를 형성한 후 추진할 것을 권고하면서 시행을 유예했습니다. 전 분야 확산의 추진동력을 확보하기 위해서는 국민 체감도가 높은 서비스를 발굴해 마이데이터 효용성을 직접 경험하도록 하는 게 중요합니다.

내년에는 국민 체감도가 크고 공공성이 강한 에너지 분야도 함께 포함해 추진할 예정입니다. 현재 추진 중인 의료와 통신뿐 아니라 에너지, 유통 등으로 분야를 지속 확대할 것입니다. 우리나라의 마이데이터 제도는 제도적·기술적으로 구체성이 상당히 높습니다. 월드뱅크 등 국제기구나 다른 나라가 우리나라 제도를 주목하는 이유입니다.

-내년 중점 계획 말씀 부탁드립니다.

▶AI 시대에 맞게 개인정보 규율 체계를 보완하는 데 주력하고 싶습니다. 예컨대 자율주행차 등 신기술 동향에 맞춰 영상정보보호법을 별도로 제정하는 등 영상 관련 법제를 정비하고 개인정보보호의 취약 계층으로 대두되는 아동·청소년 관련한 법제도 정비할 계획입니다. 딥페이크 등 AI 부작용 문제에도 적극 대응해 개인의 인격권 등과 맞닿아 있는 부분들을 반영한 법 개정 수요에 대응할 예정입니다.

내년 GPA(글로벌 프라이버시 총회) 서울 개최를 통해 글로벌 규범 정립 과정에서 우리나라의 역할과 영향력을 강화하려고 합니다. 기존엔 미국과 유럽 중심으로 데이터와 개인정보 영역에 대한 논의가 이뤄졌다면 내년 GPA 총회는 우리나라를 비롯해 아시아권을 주목하는 계기가 될 것입니다. 우리나라의 개인정보보호 역량과 글로벌 영향력을 토대로 프라이버시 분야에 대한 주도권을 확보해 나가겠습니다.

고학수 개인정보보호위원회 위원장 /사진=김휘선 기자 hwijpg@

대담=김유경 정보미디어과학부장 yunew@mt.co.kr 정리=황국상 기자 gshwang@mt.co.kr 사진=김휘선 기자 hwijpg@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지