중국서 '라마' 활용해 군용 AI 모델 개발...미국·메타 대응에 관심

[박찬 기자]

(사진=셔터스톡)

중국에서 메타의 오픈 소스 인공지능(AI) 모델 '라마'를 활용해 군사용 챗봇을 개발했다는 보도가 나왔다. 이는 메타 사용 약관에 벗어나는 행위이자 미국 정부 등에서 우려하던 일이 현실화된 것으로, 향후 대응이 주목된다.

로이터는 1일(현지시간) 중국 인민해방군(PLA)과 관련된 주요 연구 기관들이 메타 라마 모델을 활용해 군사 응용을 위한 AI 도구를 개발했다고 보도했다.

이에 따르면 중국의 군사과학원(AMS)을 포함한 기관 3곳의 연구원 6명은 지난 6월 발표한 AI 논문을 통해 군사 분야의 대화 및 질문 응답 작업에 최적화된 라마 기반 챗봇 '챗비트(ChatBIT)'를 개발했다고 공개했다.

라마는 메타가 2022년 2월에 처음 공개한 오픈 소스 대형언어모델(LLM)로, 현재 3.2 버전까지 출시됐다. 챗비트는 이중 최초로 공개된 '라마 13B'를 기반으로 한 것으로 전해졌다.

챗비트 개발자들은 라마 13B에 사용자 지정 매개변수를 추가, 군사 중심의 AI 도구를 구축했다고 밝혔다. 또 10만건의 군사 분야 대화 기록으로 미세조정, 챗봇이 군사 관련 질문에 답할 수 있도록 했다.

심지어 'GPT-4'와 비슷한 성능을 가진 일부 AI 모델보다 성능이 뛰어났다고 주장했다. 하지만 구체적인 엔지니어링 방법을 밝히지는 않았으며, 챗봇을 실제 사용 중인지도 알려지지 않았다.

또 인민해방군과 관련된 항공 회사의 두 연구자가 작성한 다른 논문에서는 항공 전자전 교란 전략 훈련에 '라마 2'를 사용하는 방법을 다뤘다. 라마 2는 지난해 7월 공개된 버전으로, 첫 모델보다 40% 많은 데이터를 학습했으며 두배 많은 토큰을 처리할 수 있다.

이는 메타의 라이선스 조건에 위배되는 행위다. 개발자들은 연구 및 상업적 프로젝트에서 이 알고리즘을 무료로 사용할 수 있지만 군사 용도로는 사용할 수 없다고 밝히고 있다.

중국 기술분석 전문 단체인 제임스타운 재단의 써니 청 연구원은 "중국에서 인민해방군 군사 전문가들이 메타의 오픈 소스 LLM을 군사 목적으로 활용하기 위해 체계적으로 연구하고 있다는 실질적인 증거가 처음으로 나온 것"이라고 말했다.

또 "메타는 군사, 전쟁, 핵 산업 또는 응용, 첩보 활동 및 미국 방위 수출 통제 대상의 기타 활동, 무기 개발, 그리고 폭력을 선동 및 조장하는 콘텐츠 제작에 라마 모델을 사용하는 것을 금지하고 있다"라고 설명했다.

하지만 오픈 소스 모델은 이런 조항을 강제할 수 있는 방법이 제한적이다.

오픈 소스가 테러 단체 등에서 악용될 가능성이 있다는 것은 이전부터 지적돼 왔다. 또 중국의 AI가 전반적으로 라마와 같은 오픈 소스에 기대고 있다는 말도 나왔다.

실제로 사례가 등장함에 따라 메타와 미국 정부 등이 어떤 조치에 나설 지 관심이다.

우선 존 서플 미국 국방부 대변인은 "우리는 오픈 소스 모델의 장점과 단점을 모두 인식하고 있으며, 중국의 능력을 면밀히 모니터링하고 평가할 것"이라고 전했다.

메타는 "오용을 방지하기 위한 조치를 취했다"라고 밝혔으나, 구체적으로 어떤 내용인지는 알려지지 않았다.

중국 국방부는 논평 요청에 응답하지 않았으며, 논문 작성에 기여한 어떤 중국 기관이나 연구자도 답변하지 않았다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>