버락 오바마 "램프 속 지니(AI)를 다시 넣을 순 없다. 안전하게 활용해야"

[AI리포터]

[디지털투데이 AI리포터] 인공지능(AI)이 불러올 변화의 바람 속에서 민주주의는 어떻게 보호돼야 할까? 조 바이든 미국 대통령이 지난달 30일 미국 최초의 AI 규제로 안전한 AI 개발을 일부 강제하는 행정명령을 발표한 가운데, 버락 오바마 전 미 대통령이 AI 규제에 대한 자신의 의견을 밝혔다.

IT 전문매체 더 버지의 닐라이 파텔(Nilay Patel) 편집장은 자신의 팟캐스트에 출연한 버락 오바마 전 미국 대통령과의 인터뷰를 게재하며 AI의 긍정적인 잠재력을 최대한 활용하고, 동시에 가능한 위험을 최소화할 수 있는 방안을 모색해야 한다고 전했다.

사실상 미국 첫 AI 규제 담긴 행정명령…"공공의 이익 지켜야"

더 버지에 따르면, 미국의 AI에 관련 행정명령은 정부와 기술의 관계에 있어 새로운 도전이다. 행정명령에는 AI를 통한 생합성 규제와 안전 규제 등 다양한 아이디어가 담겼다. AI 규제 마련을 위한 레드팀 구성, AI 개발자들에게 요구되는 강력한 투명성, 저작권이나 범죄 예방을 위한 워터마크 개발 등이 대표적이다.

이러한 행정명령 내용들을 보고 버락 오바마 전 미국 대통령은 "AI가 경제의 형태를 광범위하게 변화시키는 혁신적인 프레임워크가 될 수 있음을 떠올렸다"고 말했다.

그러면서 그는 AI가 우리 사회에 미치고 있는 영향에 대해서도 강조했다. AI가 물건을 만들고 서비스를 제공하는 방법은 물론, 정보를 얻는 방법에 영향을 미칠 것이란 설명이다. 그는 AI는 의학적 혁신, 공평한 교육, 에너지 문제 해결을 이룰 수 있는 잠재력을 지녔다고도 했다.

또 오바마는 AI가 악용될 수 있음을 경고했다. "(AI가) 중요한 인프라를 해킹하는 도구가 될 수도 있고, 의도하지 않은 방식이나 SNS를 통해 아이들의 삶에 침투할 수도 있다"라고 말하며 AI가 놀라운 혁신을 불러올 수도 있지만 해를 끼칠 수도 있다는 점을 강조했다.

이어 그는 "나는 엄청난 잠재력 떄문에 지니를 다시 병 속에 집어넣고 기술 반대자가 되려고 노력해야 한다 생각하지 않는다. 하지만 우리는 혁신을 파괴하지 않고 개별 회사의 이익 뿐만 아니라 공공의 이익을 지켜야 한다"라며 관련 시스템을 개발하는 사람들에게 투명성이 필요하다는 점을 언급했다.

'통제 불가' SNS, AI라고 가능할까?...현직자들이 '규제' 외치는 이유

오바마 전 미국 대통령은 미국을 포함한 각국 정부들이 소셜미디어 규제에 사실상 실패한 상황에서, AI가 불러 올 새로운 환경에 대응하기 위한 규제 시스템의 중요성을 피력했다.

그는 "바이든 행정부의 행정명령은 끝이 아닌 프레임워크 구축의 시작이기 때문에 중요하다"라면서 "행정명령에 다양한 내용이 포함된 것은 이것(AI)으로 인해 발생할 모든 문제를 알지 못한다는 점을 반영한다. 우리는 AI의 유망한 잠재력을 모두 알지 못하지만 AI를 처리하기 위한 똑똑한 프레임워크의 기반을 함께 구축하기 시작했다"고 전했다.

이어 그는 "우리는 그것(AI 도구 개발)이 책임감 있게 이루어지길 원하고 이를 관리할 수 있는 법률은 이미 마련됐을 수 있다. 그러나 기존 기관과 기존 법률이 작동하지 않는 AI의 새로운 발전이 있을 수 있다"라며 예측하기 어려운 AI의 발전 방향에 대한 위험성을 경고했다. 이는 AI 모델의 개발자 조차 대규모언어모델(LLM)이 수행하는 작업에 대해 완전히 확신할 수 없는 경우가 있기 때문이라는 설명이다.

때문에 오바마는 AI 개발 기업들에게 안전한 AI 개발을 위해 어떤 테스트를 사용하는지, 이 기능이 작동하고 있다는 독립적인 검증이 있는지 요구해야 한다는 입장이다. 그는 "AI 모델은 매우 급속도로 발전하고 있어 감독 및 규제 프레임워크는 유연하고 민첩해야한다. 프로그램과 모델이 회사뿐만 아니라 비영리 부문과 정부에서 어떻게 작동하는지 이해할 수 있는 인재도 필요하다"라고 전했다.

이영 중기부 장관과 그렉 브룩만, 샘 알트만 오픈AI CEO가 대담을 나누는 모습 [사진: 디지털투데이]

지난 6월, 샘 알트만 오픈AI 최고경영자(CEO)의 방한 소식이 국내 기술 팬들 사이에서 화제가 된 적이 있다. 당시 그는 한국을 포함한 세계 주요국을 순회하며 AI 규제를 촉구하는 모습을 보였다. 오바마의 더 버지 인터뷰에 따르면, AI 현직자들이 그토록 규제에 열광하는 이유는 기술 개발의 진입장벽을 높여 사전에 경쟁자들을 제거하려는 의도일 수도 있다.

관련 질문에 오바마는 "내 생각에 일부 사람들 사이에선 이들 회사가 경쟁을 막고 싶어 규제를 원한다고 의심하는 부분이 있는 것 같다"며 "역사적으로 기술 문화의 중심 원칙은 오픈소스였다. 우리는 누구나 모델과 애플리케이션을 가지고 놀고 새로운 제품을 만들 수 있으며 이것이 바로 혁신이 일어나는 방식"이라고 자신의 의견을 밝혔다.

또 그는 "AI에 대한 정부 규제가 폐쇄된 시스템을 제공할 것이며 마이크로소프트, 구글, 오픈AI, 엔트로픽과 같은 거대 기업이 어떻게든 우리를 치는 것처럼 보이기 시작한다"라고 말하면서도 미국의 기술 리더들이 AI 모델이 가진 힘을 보면서 겸손한 태도를 취하고 있다는 의견을 밝혔다.

"딥페이크 수정헌법 제1조 위배"…워터마크가 해결책 될까

바이든 미 대통령은 이번 행정명령에서, 미국 상무부로 AI가 생성한 콘텐츠를 확인하는 워터마크를 개발할 것을 지시했다. 이것과 관련해 오바마 전 대통령은 "책임을 어떻게 할당할 것인지 고민할 필요가 있다"고 말하며 지지 의사를 밝혔다.

그는 자신이 "수정헌법 제1조 절대주의자(자유주의자)에 가깝다"며, SNS 플랫폼에서도 검열 보단 표현의 자유가 기본이 돼야 한다는 입장이라는 점을 설명했다. 미국 수정헌법 제1조는 정부가 종교의 자유와 표현의 자유를 침해하는 것을 법제화하는 것을 막고, 집회 및 청원의 권리를 보장한다.

하지만 그는 "명심할 것은 우리는 완전한 언론의 자유를 누려본 적이 없다. 공중보건과 복지에 해가되는 특정 종류의 발언을 금지하는 법률을 보유하고 있다"라며 AI 기술 개발에도 적당한 규제가 필요함을 언급했다.

또 그는 SNS 플랫폼에서도 일부 콘텐츠 조정이 이뤄지고 있음을 언급했는데, 이로써 잘못된 콘텐츠에 대해 일종의 자정작용이 일어난다는 점을 강조했다. 그는 "플랫폼이 어떤 기준으로 콘텐츠를 조정하는지, 알고리즘을 통해 증폭할 수 있는 것은 무엇이고 아닌 것은 무엇인지 알아야 한다"고 말했다.

마크 주커버그 메타 CEO는 3분기 결산 회의에서 "우리 피드 앱의 경우 시간이 지남에 따라 사람들이 소비하는 콘텐츠 중 더 많은 것이 AI에 의해 생성되거나 편집될 것"이라고 말했다. 그는 SNS가 사람들의 관심을 유지하는 광고처럼 개인 선호에 따라 보고 싶은 것을 정확히 보여주는 세상을 상상한다고 더 버지는 전했다.

관련해 오바마 전 대통령은 "SNS가 모든 정보를 동등하게 배포해야 하는 '공통 운반자'(common carriers)라는 개념에 동의하지 않는다"고 말했다. 이는 최근 텍사스와 플로리다에서 SNS를 규제하는 법률의 기반이 됐으며, 현재 대법원의 검토를 앞두고 있다. 사람들이 보고 싶어하는 더 많은 콘텐츠를 보여주는 방법으로 AI 를 대중들이 받아들이는 것이 최선은 아니란 설명이다.

오바마에 따르면 AI 기술의 영향은 전기에 비교하는 것이 가장 적절하다. 전기의 파급력을 떠올리며 AI가 우리 사회에 미칠 영향의 규모와 중요성을 이해할 수 있단 설명이다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>