AI워싱 성행에 美 “무늬만 AI 기업 잡아라”

돌풍처럼 불어닥친 인공지능(AI) 기술이 확산되는 가운데 이로 인해 발생하는 부작용을 막기 위한 규제기관과 기업들의 발걸음이 바빠지고 있다. 세계 최초로 AI 헌법과 규제 가이드라인이 제작되는 것과 더불어 AI 기업인 것처럼 홍보하는 ‘AI 워싱(AI Washing)’이 사회적 문제로 대두되고 있다.

리서치 전문회사 마켓앤마켓에 따르면 전 세계 AI 시장 규모는 2023년 1502억달러에서 2030년에는 1조3452억달러로 9배가량 성장한다는 전망이 나오고 있다. 지난해 막 움트기 시작한 AI 생태계가 향후 10년간 거침없이 확대될 것이란 의미다. 연평균 성장률로 환산해보면 36.8%에 달할 만큼 무궁무진한 발전을 예고 중이다.

특히 마켓앤마켓은 향후 AI 산업이 3단계 로드맵을 그리며 발전을 거듭할 것으로 분석했다. 내년까지는 콘텐츠 제작을 위한 생성형 AI를 중심으로 시장이 확대된다면 2025~2028년까진 2단계로 연합학습을 고도화하며 사고하고 능동적으로 행동하는 AI 고도화가 이뤄질 것으로 전망했다. 2028년~2030년까지는 마지막으로 인간 수준의 정교한 생성형 AI가 등장하고 전 산업 분야에서 실시간으로 자율적인 판단이 가능한 고급 AI 기술이 보편화될 것으로 예측했다.

이처럼 AI 산업 청사진이 구체적으로 그려지고 있을 만큼 시장의 기대감은 무척 높은 편이다. 그렇지만 그 이면에서 함께 커가고 있는 어두운 부분을 제대로 해결하지 못한다면 반쪽짜리 기술로 전락할 수 있다는 우려 역시 커지고 있다. 특히 과거 공상과학 소설이나 상상 속의 기술로만 그려졌던 AI 기술이 인간과 구별이 어려울 정도로 빠르게 진화하면서 이에 대한 문제 인식은 지속적으로 확산되는 상태다. 기술이 싹트기 시작했던 지난해에는 AI를 이용해 과제를 대신 하거나 거짓 문서를 작성하는 등 실제 사람과 구별하기 어려운 기술 고도화로 인한 문제가 화두가 됐다. 이와 함께 최근에는 가짜 이미지나 영상으로 인한 페이크 뉴스 및 가짜 정보 문제도 한창 논란의 중심에 있다. 미국과 한국 등 굵직한 선거를 앞두고 이런 점이 곳곳에서 지적됐고 실제 많은 사람들이 가짜 뉴스를 진실처럼 믿거나 추종하는 일이 사회적으로도 큰 이슈가 되고 있는 상황이다.

특히 AI 산업이 성장할수록 이러한 문제 역시 함께 커질 수 밖에 없는 운명인 만큼 일찌감치 이를 해결하기 위한 움직임이 발 빠르게 이뤄지고 있다.

EU 세계 최초로 규제법 통과

지난 3월 유럽연합(EU)이 최초의 AI 규제법인 ‘AI법’을 통과시켰다. <사진 연합뉴스>

국가와 국가연합, 기업 등에서 서로 다른 아이디어를 내고 있는 가운데 유럽연합(EU)은 지난 3월 세계 최초로 AI 규제법(AI Act)을 통과시켰다. EU는 프랑스 스트라스부르에서 열린 유럽의회 본회의에서 찬성 523표, 반대 46표 등으로 AI 규제법을 통과시키며 본격적인 AI 견제에 나섰다. 이 법에 따르면 유럽에서는 앞으로 AI를 활용한 생체 정보 수집을 엄격히 금지하고 개인 특성과 행동을 데이터화해 점수를 매기는 사회적 점수 평가, 이른바 소셜 스코어링이 제한된다.

로베르타 메솔라 유럽의회 의장은 “혁신과 동시에 인간의 기본권을 보호해줄 선구적인 법안”이라고 입법 취지를 명확히 했다. 해당 법안은 민간·정부 등을 아울러 세계 최초의 포괄적인 AI 기술 규제법이란 기록을 세우기도 했다. EU는 향후 AI 서비스를 위험도에 따라 4단계로 나누어 단계적 차등 규제를 할 방침이다. 앞서 강조한 대로 무엇보다 개인정보를 보호하고 사생활 침해를 엄격히 금지함으로써 AI로 인해 발생할 무분별한 개인정보 유출 및 악용 가능성을 차단할 방침이다. 테러, 전쟁 등 중대한 범죄 용의자 수색과 같은 아주 제한적인 용도로만 기술을 활용할 수 있다.

또한 의료·교육·고용 등 필수적인 공공 서비스와 법률 집행, 국경 간 분쟁 등 국가 시스템을 구성하는 핵심 정보의 경우 ‘고위험 등급’으로 분류돼 철저히 관리된다. 반면 스팸 정보 및 비식별 정보의 경우 상대적으로 낮은 위험도의 서비스로 분류돼 약한 규제를 받게 된다.

특히 봇물 터지듯 AI 기술이 산업 전반에 스며들고 있는 만큼 향후 AI의 미래기술이라 불리는 범용 AI(AGI) 개발의 경우 지금까지의 규제와는 차원이 다른 수준의 규제가 적용될 방침이다. 해당 기술을 개발하는 회사의 경우 ‘투명성 의무’를 부과받아 저작권법을 준수하고 AI를 학습시키는 데 활용한 정보와 데이터를 명시해야 한다. 또한 사이버 공격, 거짓 정보 등이 발생되지 않도록 철저히 EU의 AI법 규정을 따라야 한다.

빅테크 기업은 부담

특히 해당 법안은 전 세계 인터넷과 SNS를 사실상 장악하고 있는 미국의 빅테크 기업들에 큰 부담요소가 될 전망이다. 유럽은 MS, 구글, 애플, 메타 등 주요 빅테크 기업에 대한 전방위적 규제 압박을 가하는 상황인데 이번 AI 법 역시 사실상 이러한 빅테크 기업에 적용될 확률이 높기 때문이다. 유럽은 이에 앞서 디지털시장법(DMA)과 디지털서비스법(DSA) 등 주요 빅테크 규제 법안을 시행해 이미 빅테크 기업에 대한 조사에 들어간 상황이다. 만약 이번 AI 법안까지 빅테크 기업들의 발목을 잡을 경우 자칫 기업 경쟁력 악화뿐 아니라 미국과 유럽간 대결 구도로 흘러갈 수 있다는 우려까지 나오는 만큼 이에 대한 실마리를 마련하는 것이 무엇보다 중요하단 지적이다.

AI 업계 관계자는 “현재 유럽은 유럽인들의 사생활과 개인정보 보호라는 명목 아래 사실상 미국의 빅테크 기업들을 규제 테두리에 가두고 있다”며 “이를 단순한 이해관계 간 충돌로 볼 것이 아니라 자칫 AI 산업과 생태계 전반을 위축시키는 결과로 귀결될 수 있다는 점이 잠재적인 문제다”라고 밝혔다.

EU를 탈퇴한 영국 역시 독자적인 AI 규제 마련을 서두르고 있다. 당초 영국 정부는 AI 산업 활성화를 위해 EU와 달리 상대적으로 포용적인 AI 정책을 펼쳐왔다. 하지만 최근 들어 문제의 심각성이 대두되면서 AI 규제를 위한 법안 마련에 매진하고 있다.

최근 언론에 따르면 영국 정부는 오픈AI의 챗GPT와 같은 생성형 AI 프로그램의 대규모 언어모델(LLM) 생성을 제한하는 법안을 준비 중이다. 특히 AI 모델을 개발하는 회사가 AI 알고리즘을 정부와 공유하고 안전 테스트를 수행했다는 증거를 제공해야지만 서비스를 제공할 수 있도록 방침을 정한 것으로 알려졌다.

영국 경쟁시장청(CMA)을 이끌고 있는 사라 카델은 “AI 기반 모델을 만드는 소수의 정보기술(IT) 기업이 자신의 이익을 위해 시장을 형성할 능력과 인센티브 모두를 장악할 수 있다는 것에 심각한 우려를 하고 있다”고 걱정을 표한 바 있다.

기존에 영국 정부는 과도한 규제가 AI 산업 성장을 저해할 수도 있다는 우려를 이유로 AI 모델 개발이나 출시에 대한 법적 개입을 자제해왔다. 하지만 이러한 보도는 영국 정부의 입장 역시 EU와 마찬가지로 크게 바뀌고 있음을 시사한다.

빅테크의 본거지인 미국 역시 지난해 10월 조 바이든 대통령이 AI 개발자가 정부와 주요 데이터를 공유하도록 하는 내용의 행정명령을 발표한 바 있다. 유럽보단 속도가 더디지만 미국 정부도 규제의 필요성을 인지하고 있는 만큼 미국에서도 AI 규제에 대한 논의가 활발할 것으로 예상된다.

지난해 11월엔 미국과 한국 등 18개국이 AI 설계 단계부터 외부 공격에서 안전성을 확보하기 위한 개발 가이드라인을 발표하기도 했다. 단순히 개별 국가 차원의 규제가 아닌 범국가적인 글로벌 AI 규제 가이드라인이 만들어져야만 실효성 있는 규제가 가능하다는 뜻이다 .

미국 사이버보안 및 인프라보안국(CISA)과 영국 국립사이버보안센터(NCSC) 등 전 세계 21개 기관이 공동으로 발표한 ‘AI 안전 설계를 위한 가이드라인’은 AI 제품 설계부터 배포에 이르기까지 개발 전 과정이 기술 오용으로부터 인간을 보호하는 방식으로 이뤄져야 한다는 기본 원칙을 담았다. 물론 법적 구속력을 갖는 것은 아니지만 AI 발전에 발맞춰 가이드라인 역시 함께 가줘야 성공적인 AI 생태계 구축이 가능하다는 것이 업계의 공통된 의견이다.

가짜 AI기업 옥석가리기

규제의 한 축에서 여러 법안과 가이드라인이 제조되고 있다면 그 반대쪽에선 이미 문제를 일으키고 있는 기업에 대한 제재가 이루어지고 있다. 특히 AI의 본거지라 볼 수 있는 미국에서는 AI 워싱 기업에 대한 철퇴가 내려지고 있다.

AI 워싱은 AI와 무관한 기업들이 마치 AI를 활용한 기술 경쟁력을 확보한 듯이 홍보하고 이를 통해 기업의 영리를 추구하는 행태를 뜻한다. 과거 친환경적이진 않지만 친환경 기업인 것처럼 위장하는 행위를 뜻하는 그린 워싱의 사례가 이번엔 AI 산업에서 나타나는 것이다. 특히 ‘AI 워싱’은 게리 겐슬러 미국 증권거래위원회(SEC) 위원장이 2023년 12월 기업들에 AI 워싱을 하지 말라는 경고를 내놓으면서 주목받기도 했다.

조 바이든 미국 대통령이 지난해 10월 인공지능(AI)의 기술 오용에 따른 위험을 차단하기 위한 행정명령에 서명했다. <사진 연합뉴스>

실제 SEC는 지난 3월 AI 워싱 혐의로 ‘델피아’와 ‘글로벌 프리딕션스’ 등 2개 기업에 총 40만달러의 벌금을 부과했다. 토론토에 본사를 둔 델피아는 2019년부터 2023년까지 SEC 서류와 보도자료, 웹사이트 등에서 투자전략에 AI와 머신러닝 등 고객 데이터를 활용하는 방법에 대해 거짓 홍보를 해왔다. 또 2021년 7월 규제당국에 고객 데이터를 사용하는 알고리즘을 만들지 않았다고 시인했지만, 이후에도 광고에서 계속 허위 진술을 해왔다는 혐의를 받고 있다.

샌프란시스코에 본사를 둔 글로벌 프리딕션스는 웹사이트와 소셜미디어 등을 통해 자사 플랫폼이 ‘전문화된 AI 기반 예측’을 제공한다고 허위 주장을 한 혐의를 받았다. 특히 SEC는 ‘최초의 규제된 AI 투자 자문’ 등 입증할 수 없는 주장을 해온 점이 발각됐다고 밝혔다.

이번 두 기업에 대한 벌금액이 천문학적으로 크지는 않지만 향후 여러 빅테크 기업이나 다양한 AI 산업과 맞닿아 있는 기업에는 경고장이 될 수 있다는 것이 업계의 분석이다.

향후 AI의 호황에 편승하고자 하는 기업들이 ‘AI’란 단어를 마케팅 과정에서 마구잡이로 사용할 가능성이 높아지는 만큼 피해를 입는 기업이나 사용자들도 늘어날 수 있다는 점이 핵심이다. AI 업계 관계자는 “기업들은 활용중인 AI가 없거나 기술이 미미함에도 이를 거짓으로 드러내거나 기능을 과장하고, 이에 소비자는 해당 기업의 AI 기술이 실제보다 뛰어나다고 받아들이게 된다”며 “이처럼 AI 워싱은 소비자들의 신뢰를 훼손하는 것은 물론 기업의 투명성에 대한 우려를 일으킬 수 있다”고 밝혔다.

[추동훈 기자]

[본 기사는 매경LUXMEN 제164호 (2024년 5월) 기사입니다]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]