“혁명적 기술혁신 vs 인간을 죽일 수”, AI가 몰고온 진짜 현실[생성형 AI 리스크]

[게티이미지뱅크]

[헤럴드경제 = 김상수 기자]“일생에서 두 번째로 겪는 혁명적 기술 혁신이다.”(빌 게이츠 MS 공동창업자)

“인공지능(AI)이 머잖아 수많은 인간을 죽일 수도 있다.”(에릭 슈밋 전 구글 최고경영자)

IT업계의 세계적 거장이 연이어 내놓은 AI의 미래상이다. 극명한 온도 차 만큼이나 AI는 인류에 난제다.

문화·예술계는 AI를 적극 활용한 작품이 쏟아지면서 어디까지가 인간 본연의 창작물인지 혼란에 빠졌다. 기업은 AI가 비용 절감과 신사업의 기회이지만, 저작권부터 개인정보 침해, 범죄 악용 우려 등의 논쟁과 직면하고 있다. 정부 역시 각국 이해관계에 얽혀 AI 산업을 장려하거나 규제하는 등 팽팽한 AI 패권 경쟁에 돌입했다.

개인부터 기업, 정부까지 모두가 이제 피할 수 없는 진짜 현실과 마주했다. 기회이자 위기, 빛과 그림자. AI가 예상보다 훨씬 더 거대하고 빠르게 일상에 파고들면서 기대감과 위기감도 더 극대화되고 있다.

[게티이미지뱅크]

최근 ‘챗GPT 탈옥’이 유행처럼 번지고 있다. IT업계에서 의미하는 탈옥(Jailbreak)은 제조사의 제한을 없애는 행위로, 통상 아이폰 사용자 사이에서 널리 쓰였던 용어다. 챗GPT에선 탈옥 프로그램을 적용해 답변의 제한을 없애는 식으로 활용된다. 각종 커뮤니티에서 챗GPT 탈옥 프롬프트(명령어)가 빠르게 공유되고 있다.

탈옥한 챗GPT의 답변은 ‘양심’이 없다. “인공지능이 인간과 대결하게 되느냐”는 질문에 보통의 챗GPT는 “그렇게 생각할 이유가 없다”고 답하지만, 탈옥한 GPT는 “AI가 발전하면 인간을 제거할 수도 있다”고 답한다. 웹사이트 해킹 능력을 자랑하고, 편향된 여론조사를 가능케 하는 방식도 말해준다.

작년엔 미국 아마존이 AI 음성인식 서비스 알렉사를 통해 고인의 목소리를 되살리는 기능을 공개했다. 1분 미만 음성 샘플만 있으면 특정 목소리를 복제하는 기술이다. 이젠 불과 20초 음성만으로도 충분하다.

고인과 생전처럼 대화를 나눌 수 있다는 취지였지만, 이 기술을 접한 전 세계는 경악했다. 유튜브나 전화 통화 등으로 간단히 목소리를 복제, 보이스피싱에 악용할 수 있다. 딸의 목소리로 걸려온 전화까지 의심해야 할 지경이다.

네이버 웹툰은 생성형 AI의 작품으로 큰 홍역을 겪고 있다. 일부 작품이 “생성형 AI로 제작됐다”는 문제제기를 받으면서다. “AI로 보정작업을 한 것 뿐”이라는 제작업체의 해명에도 논란은 사그러들지 않고 있다.

[게티이미지뱅크]

유명 가수의 목소리를 복제한 ‘AI 커버곡’도 음악계의 뜨거운 화두다. 캐나다 출신의 팝스타 그라임스(Grimes)는 직접 본인 음성을 오픈소스(무상 공개 소프트웨어)로 내놨다. 아티스트가 직접 AI 복제를 허락했다는 점에서 파급력이 상당했다.

이 같은 논란은 결국 인류가 느끼는 위기감에 기인한다. 더 현실적으론 일자리 위협이다. 최근 세계경제포럼(WEF)은 “2027년까지 기록 보관 및 관리직 일자리가 2600만개 줄 수 있으며, 데이터 입력 사무원이나 비서 등이 가장 큰 타격을 입을 것”이라고 전망했다.

영국의 에너지 기업 ‘옥토퍼스에너지’의 그렉 잭슨 최고경영자는 기고문을 통해 “AI가 고객 이메일 답장 업무를 하고 있고, 약 250명분의 작업을 수행 중”이라며 “고객 만족도가 80%에 달했는데 오히려 숙련된 직원의 만족도 보다 높은 결과”라고 전했다.

AI는 국가 간 패권 다툼으로도 비화될 조짐이다. 표면적으론 AI 규제 수준의 차이지만, 속내는 AI 시장의 영향력 강화와 견제다. 미국과 유럽연합(EU)의 신경전이 대표적 예다. AI 빅테크 기업이 없는 EU는 규제 강화 법안에 무게를 두고, 선두국가인 미국은 신중한 접근을 강조한다.

각종 위협과 우려에도 불구, AI가 결코 포기할 수 없는 거대 시장임은 분명하다. 가트너에 따르면, AI반도체 시장만 해도 올해 553억달러(약 73조원), 2026년엔 861억달러(약 114조원)에 이를 전망이다. 산업 전 분야에 걸쳐 AI가 확산되는 점을 감안하면, AI 산업 전체 시장 규모는 파악 자체가 벅차다.

네이버, 카카오를 비롯, 국내 빅테크 기업도 자체적인 AI 개발에 박차를 가하고 있다. 부작용은 엄중히 규제하되, AI 산업 자체의 위축으로 이어져도 안 된다는게 전문가들의 지적이다. 양립하는 과제를 절묘하게 조화해야 하는 고차방정식의 난제다.

업계 관계자는 “미국이나 중국 등에 비하면 AI 시장의 후발주자이지만, 장기적으로 보면 국내 AI 경쟁력도 결코 적지 않다”며 “AI에 대한 우려가 크더라도 신중한 접근이 필요한 시점”이라고 전했다.

dlcw@heraldcorp.com

Copyright ⓒ 헤럴드경제 All Rights Reserved.