MIT그룹, AI 거버넌스 발표… AI 규제 논의 본격화

MIT그룹, AI 거버넌스 백서 발표
악용될 경우 플랫폼 사용자에도 책임
AI 규제하는 관리 감독 기구 필요
“적절한 규제, AI 발전에 도움”

이미지 생성형AI 미드저니에 “인류의 AI 규제”와 같은 명령어(프롬프트)를 넣어 생성한 이미지 [사진=미드저니]

유럽연합(EU)이 세계 최초로 인공지능(AI)을 규제하는 법안의 초안에 합의한 가운데 미국매사추세츠공대(MIT) 그룹이 AI 거버넌스와 관련된 백서를 발표했다. AI 규제와 관련한 정부, 기관 등의 움직임에 속도가 나고 있다.

MIT 리더, 학자로 구성된 위원회는 지난 11일(현지 시각) 미국 정책 입안자들에게 리소스를 제공하기 위해 AI 거버넌스 프레임워크를 설명하는 정책을 발표했다. 이번 발표에는 AI를 감독하는 실질적인 방법을 위해 규제와 책임 접근 방식과 관련된 내용이 포함됐다.

MIT 그룹은 이번 연구의 목적이 AI 분야에서 미국의 리더십을 강화함과 동시에 신기술로 인해 발생할 수 있는 피해를 제한하고, AI가 사회에 어떻게 도움이 될 수 있는지를 알리는 것이라고 밝혔다. EU가 AI 규제를 본격화하고 미국 역시 지난달 30일, 조 바이든 대통령이 AI의 안전과 보안에 대한 새로운 표준을 수립하는 행정명령에 서명한 가운데 규제와 관련된 가이드라인을 빠르게 설정하겠다는 의도가 담긴 것으로 보인다. 이러한 가이드라인이 빠르게 정립되면 기술 기업들은 규제안에서 기술을 빠르게 발전시킬 수 있을 뿐 아니라 AI 주도권을 이끌고 갈 수 있기 때문이다.

이번 연구를 주도한 댄 허텐로커 MIT 슈바르츠만 컴퓨팅대학 교수는 “국가로서 우리는 상대적으로 위험성이 많은 것을 규제하고, 거버넌스를 제공한다”라며 “이것이 충분하다고 말할 수 없지만 인간 활동이 이미 규제되고 있고 시간이 지나면서 위험도가 높아진다고 판단되는 것부터 시작해야 한다. AI를 이런 식으로 보는 게 실용적인 접근방식”이라고 말했다. MIT그룹은 “우리가 구성한 프레임워크는 이러한 것들에 대한 구체적인 사고방식을 제공한다”라고 설명했다.

EU는 현재 AI 규제법의 초안 합의를 마무리 짓고 1~2년 이내에 규제를 시작한다는 계획이다. 이 과정에서 챗GPT와 같은 생성형 AI 기술이 어려움으로 작용했다. 데이비드 골드스턴 MIT 워싱턴사무소 이사는 “우리는 전문성을 가지고 있는 만큼 여기에 관여하는 게 중요하다고 생각했다”라며 “MIT는 AI 연구의 선두 주자 중 하나이며 AI가 처음 시작된 곳 중 하나인 만큼 우리가 이 문제를 해결하는 데 의무를 느꼈다”라고 전했다.

MIT그룹에 따르면 이번에 발표한 백서는 기존 규제 기관, 법적 체계를 어떻게 AI에 적용할 수 있는지에 대해 설명하고 있다. 예를 들어 의사를 사칭하는 것은 불법인 만큼, AI가 의사로 속여 약을 처방하거나 진단을 내리는 일은 엄연히 불법이 된다. AI 시스템을 장착한 자율주행차 역시 다른 차량과 마찬가지의 규제를 받는다. 따라서 AI 기술을 제공하는 기업이나 개인은 AI의 응용, 목적과 의도를 미리 정의해야만 한다. 그러면 이를 기반으로 기존의 법적 규제를 어떻게 적용할 수 있는지 확인할 수 있다.

하지만 생성형AI와 같이 다양한 분야에 활용할 수 있는 AI의 경우 예상하지 못했던 다른 도구로 사용돼 악용될 수 있는데 백서는 이럴 때 이를 악용한 기업, 사람도 책임을 공유하는 게 합리적이라고 기술하고 있다. 물론 이 도구의 제공자도 책임을 져야만 한다. MIT그룹은 “기반 모델을 고려 대상에서 완전히 제외하면 안 된다”라고 설명했다. 예를 들어 챗GPT가 악용될 때는, 이를 악용한 사람도 문제지만 챗GPT를 만든 오픈AI 역시 관리·감독의 책임을 져야 한다는 얘기다.

MIT그룹은 이번 백서에서 기존 규제기관 외에 별도의 감독 기관이 필요하다고 봤다. 또한 새로운 ‘자율규제 기구’가 필요하다고 보고 있다. AI에 초점을 맞춘 이러한 기구는 적절한 규제와 함께 AI 산업의 유연성을 부여해줄 것이라는 해석이다.

이번 백서가 규제만을 이야기하는 것은 아니다. 백서는 정부의 참여를 기반으로 AI를 사회에 유익하게 만드는 방법에 대한 더 많은 연구가 이어져야 한다고 봤다. AI가 사람을 다체한다기 보다는 어떻게 도울 수 있는지 가능성을 확인하고 사회 전반에 장기적인 경제 성장을 유도하는 방향으로 끌어 나가야 한다는 것이다. MIT그룹은 배포한 자료를 통해 “우리는 AI를 억누르려는 집단이 아니다”라며 “그런데도 AI는 통치, 감독이 필요하다고 보는 집단”이라고 밝혔다. 이어 “국가와 세계를 위해 일하는 것은 MIT가 수십 년 동안 진지하게 생각해온 것”이라며 “이를 위해 이번 백서가 가진 의미는 상당히 크다”라고 덧붙였다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]