AI 챗봇 조작하는 웜, '모리스II' 개발 성공…보안 우려 지적

[AI리포터]

최근 연구에서 AI 챗봇을 감염시킬 수 있는 모리스 웜II가 개발됐다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 최근 오픈 AI의 챗GPT나 구글의 제미나이(Gemini)와 같은 AI 챗봇을 조작할 수 있는 웜 '모리스 II'(Morris II)가 개발됐다.

4일(현지시간) 온라인 매체 기가진에 따르면 이스라엘 공과대학을 비롯한 코넬 공과대학, 소프트웨어 개발 기업 인튜이트 연구팀은 생성형 AI를 활용하는 애플리케이션(앱)을 타깃으로 하는 제로 클릭 웜 '모리스II' 개발에 성공했다.

모리스II는 사용자가 아무런 조작 없이도 공격 대상 단말기를 감염시킬 수 있다. 이에 따라 감염된 단말기는 다른 단말기로 퍼져나가면서 단말기의 데이터를 탈취하거나 악성코드를 심는 것이 가능하다.

연구팀은 모리스II 개발 배경에 대해 "지난 1년 동안 생성형 AI 기능을 앱에 통합한 반자율형 또는 완전 자율형 에이전트로 구성된 상호 연결된 생성형 AI 생태계가 많이 등장했다"라며 "기존 연구에서는 에이전트의 생성형 AI 계층에 대한 위험성을 강조하고 있지만 이번에는 공격자가 에이전트의 생성형 AI 컴포넌트를 악용해 전체 AI를 대상으로 사이버 공격을 가할 수 있는 악성코드를 개발하는 데 중점을 뒀다"라고 설명했다.

또한 연구팀은 "공격자가 프롬프트를 입력에 삽입하고 생성형 AI 모델이 이를 처리할 때 출력으로 복제돼 악의적인 활동(페이로드)을 수행하도록 유도할 수 있음을 보여준다"라고 덧붙였다. 이에 모리스II가 스타트업과 개발자, 기술 기업들이 우려해야 할 보안 위험이라고 매체는 평가했다.

한편 악성코드의 조상 격인 모리스 웜은 인터넷으로 퍼진 최초의 컴퓨터 웜들 중 하나다. 이는 한번 감염에 성공하면 프로세스 이름과 임시 파일들을 삭제해 눈에 띄지 않도록 해 디도스 공격과 비슷한 효과라고 평가받기도 했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>