NATO, AI 전략 채택...국제법과 나토 가치에 부합한 방식될 것

(출처=셔터스톡)이번 주 북대서양조약기구(NATO·나토) 국방부 장관들이 AI의 책임 있는 사용을 장려하는 사상 첫 인공지능(AI) 전략을 내놨다고 지난 25일 사이버 디펜스 매거진 등 외신들이 보도했다.

사이버 디펜스 매거진에 따르면, 인공지능(AI)이 세계 국방안보 환경을 바꾸고 있는 가운데 나토 국방부 장관들이 이 기술의 개발과 사용을 책임감 있게 촉진하는 전략을 사상 최초로 내놓았다는 것.

다음은 NATO가 발표한 문서에 언급된 안보에 대한 인공지능 활용 원칙이다.

A. 적법성 : 해당하는 경우 AI 애플리케이션이 국제인도법, 인권법 등 국내외 법에 따라 개발·활용된다.

B. 책임 : 인공지능 애플리케이션은 적절한 수준의 판단과 주의를 기울여 개발되고 사용된다. 책임성을 보장하기 위해 명확한 인간의 책임이 적용된다.

C. 설명 가능성과 추적성 : AI 애플리케이션은 검토 방법론, 출처 및 절차의 사용을 포함해 적절하게 이해 가능하고 투명할 것이다. 여기에는 NATO 및/또는 국가 차원에서의 평가 및 검증 메커니즘이 포함된다.

D. 신뢰성 : AI 애플리케이션에는 명확한 사용 사례가 있을 것이다. 그러한 기능의 안전성, 보안 및 건전성은 확립된 NATO 및/또는 국가 인증 절차를 포함해 전체 수명주기에 걸쳐 해당 사용 사례 내에서 시험과 보증을 받아야 한다.

E. 거버넌스 : AI 애플리케이션은 의도된 기능에 따라 개발되고, 사용될 것이며, 적절한 인간-기계 상호작용, 의도하지 않은 결과를 감지하고 피할 수 있는 능력, 그리고 그러한 시스템이 의도하지 않은 행동을 보일 때, 시스템의 해제 또는 비활성화와 같은 단계를 밟도록 허용할 것이다.

F. 편향 완화 : AI 애플리케이션 및 데이터 세트의 개발 및 사용에 있어 의도하지 않은 편향을 최소화하기 위한 사전 예방 조치가 취해질 것이다.

또 새로운 전략은 기능 개발 및 제공에서 AI 채택을 가속화하고, 주류화해 동맹국 내 상호운용성을 높이는 것을 목표로 한다. 나토는 회원국이 사용하는 AI 기술을 보호하고, 감시할 것을 권장하고 있다.

동맹국은 위협 행위자들의 악의적인 AI 사용에 대해 경고하고, 이러한 위협을 식별하고, 보호하려는 조치와 기술의 채택을 촉구한다.

보도에 따르면, 나토 연합국은 인공지능(AI) 등 국방안보 분야 7곳을 우선 인정했다. 여기에는 양자 지원 기술, 데이터 및 컴퓨팅, 자율성, 생명공학, 극초음속 기술 및 공간 등이 포함된다.

NATO는 발표문을 통해 "이러한 기술을 윤리적 방법으로 다루는 것이 중요하다"라고 강조하며, "이 모든 기술은 이중 사용되고 있으며, 매우 널리 보급되어 있다"라고 밝혔다.

"일부 비국가 행위자들은 우리의 AI 기술 내의 결함이나 한계를 이용하려고 할 것이다. 연합국과 NATO는 AI가 가능한 사이버 디펜스 애플리케이션도 활용하는 '책임 있는 사용의 신뢰성 원칙'에 따라 이러한 간섭, 조작 또는 사보타주 등으로부터 AI 사용을 보호하기 위해 노력해야 한다"라고 발표문을 마무리했다.

이어 "동맹국들과 나토는 '스트레스 테스트'를 목적으로 구체적인 위협 분석 프레임워크와 맞춤형 보안 감사 등 AI에 적합한 보안 인증 요건을 개발해야 한다"고 강조했다.

윤리적 방식으로 안보에 적용

나토(NATO)의 국방부 장관들이 인공지능을 위한 조약의 첫 번째 전략에 동의했다고 지난 25일 에어포스 테크놀로지(Airforce technology)가 보도했다.

또 나토 동맹국들은 AI를 국방과 안보에 관한 7가지 기술 분야 중 하나로 우선시했다고 덧붙였다.

나토의 문서에 따르면 이 전략은 AI 기술이 어떻게'보호되고 윤리적인 방식'으로 국방과 안보에 적용될 수 있는지, 국제법과 나토의 가치에 부합하는 책임감 있는 방식으로 활용될 수 있는지를 간략하게 보여준다.

이 전략은 또한 AI 사용과 관련된 위협과'신뢰할 수 있는 협력'을 만드는 방법을 다룬다. 이 문서는 "대서양 횡단 방위 및 안보를 위한 AI 관련 사안에 대해 회원국 간 협력이 필요하다"라고 강조했다.

이 전략의 목적은 네 가지이며, 나토와 동맹국들이 국방 및 안보 목적으로 AI 개발과 사용을 장려하고, 능력 개발에서 AI 채택을 가속화 및 주류화하고, AI 관련 보안 정책 고려사항을 해결하고, 악의적인 AI 사용의 위협으로부터 보호하기 위한 기반을 마련하는 것을 포함한다.

법률성, 책임성 및 책임성, 설명성과 추적성, 신뢰성, 통치성 및 편향 완화 등을 통해 '방위에서의 인공지능의 책임 있는 사용'이 나토의 원칙이라고 설명했다.

이와는 별도로 나토 동맹국들은 신흥 기술에 약 10억 달러를 투자하는 것을 목표로 첨단 기술 투자를 위한'나토 혁신 펀드'를 출범시켰다.

북대서양조약기구(NATO)는 국방 경쟁이 과열되자 AI 전략과 10억 달러(약 10조 원) 투자를 목표로 18개 항의 AI 전략을 채택하고, '미래 대비형' 펀드를 출범시키겠다고 이번 주 발표한 바 있다.

NATO, AI 전략에 기술 우위 강조

북대서양조약기구(NATO·나토)는 이번 주 18개 항의 AI 전략을 채택하고, 10억 달러 안팎의 투자를 목표로'미래 대비형' 펀드를 출범시키겠다고 발표했다고 지난 25일 기술 매체 벤처비트가 보도했다.

이와 관련해 로이드 오스틴(Lloyd Austin) 미 국방부 장관이 벨기에 브뤼셀에서 열리는 다른 나토 회원국들과 이틀간의 회담을 통해 이 계획을 공식적으로 승인할 것이라고 밝혔다.

이에 앞서 나토는 지난 7월 보도자료를 통해 AI에 대한 전략을 "현재 마무리하고 있다"라며, "AI를 국방에 책임감 있게 활용하는 원칙이 전략의 핵심이 될 것"이라고 밝힌 바 있다.

데이비드 반 웰(David Van Well) 나토 신흥 안보 도전 사무차장은 지난 3월 폴리티코와의 인터뷰에서 "이 전략은 AI 시스템을 윤리적으로 운용하는 방법을 파악하고, 기술에 대한 군사적 응용을 정확히 지적하며, "동맹국들이 자신들의 AI가 나토 표준에 부합하는지, 시험할 수 있는 플랫폼을 제공할 것"이라고 말했다.

또 그는 "미래의 갈등은 총알과 폭탄뿐 아니라 바이트와 빅데이터와도 싸울 것"이라고 강조하며, "우리는 기술적 우위를 유지해야 한다"고 언급했다.

나토는 이날 발표한 AI 전략 요약 문서에서 대서양 횡단 방어와 안보를 위한 AI 관련 사안에 대해 회원국 간 협력과 협력이 필요하다고 강조했다.

이 문서에는 또한 'AI에 대한 책임 있는 사용'에 대한 조직의 원칙이 나열되어 있는데, NATO 측은 "이 원칙이 회원국의 접근법과 '해당 국제 포럼에서의 관련 작업'에 기초해 개발됐다"고 밝혔다.

나토의 제안은 국방부 사이버보안 고위관리가 국방부의 기술개발 속도가 느리다는 이유로 사임한 이후 나왔다.

니콜라스 차일런(Nicholas Tylan) 전 공군 최고 소프트웨어 책임자는 지난주 언론과의 인터뷰에서 미국은 15~20년 안에"중국과 경쟁할 기회가 없다"며, 일부 정부 기관의 AI와 사이버 방어를 '유치원 수준'으로 규정하며 비판한 바 있다.

미 국방성은 지난해 유럽과 아시아 등 13개국으로 구성된 AI 파트너십을 출범시켜 군사적 맥락에서 AI 활용에 협력했다.

파괴적인 기술에 투자할 것

옌스 스톨텐베르크(Jens Stoltenberg) 나토 사무총장은 30개국 안보협정을 미래에 대비하기 위해 이번 주에 인공지능에 대한 첫 전략을 채택하고, 10억 달러를 투자하기 위한 혁신기금을 출범시킬 예정이라고 지난 16일(현지시각) 밀리터리 닷컴이 보도했다.

그는 브뤼셀 본부에서 가진 기자회견에서 "우리는 권위주의 정권과 인공지능에서 자율 시스템에 이르기까지 새로운 기술을 개발하기 위해 경쟁하고 있다"라고 말했다.

옌스 사무총장은 또 "NATO의 AI 전략은 데이터 분석, 이미지, 사이버 방어를 포함한 분야를 다룰 것"이라고 덧붙였다.

그는 "새로운 나토 기금이 떠오르는 파괴적인 기술에 투자할 것"으로 기대한다고 말했다. 이어 "유럽과 북미에 새로운 본부와 테스트 센터가 세워질 것"이라고 밝혔다.

나토에 따르면, 지난 몇 년 동안 나토는 기존의 육해공 작전 중심에서 벗어나 더 복잡한 안보 환경에 적응하기 위해 확장해 왔다.

그 일환으로 지난해 람슈타인(Rammstein) 공군기지 연합군 공군사령부에 새 센터를 설립해 우주에서의 노력을 조율했고, 이는 연합군의 새로운 군사 작전 영역으로 선포됐다. 지난 2017년에는 동맹국들이 사이버 분야도 군사영역으로 추가했다.

NATO를 위한 인공지능 전략

지난 25일 NATO 리뷰는 올해 10월 회의에서 연합국 국방부 장관들이 공식적으로 NATO를 위한 인공지능 전략을 채택했다고 보도했다. 이에 대해 전략의 개발과 실행에 직접적으로 관여하는 전·현직 NATO 참모들은 주요 특징과 목표를 개략적으로 설명했는데 이를 요약하면 다음과 같다.

전형적으로, 인간의 지능이 필요한 업무를 기계가 수행하는 인공지능(AI)이 나토가 활동하는 국제 안보 환경을 어떻게 변화시키고 있는지 멀리 볼 필요는 없다.

AI는 전통적인 군사 능력과 하이브리드 위협 영역 모두에 영향을 미치며, 광범위한 국제 보안 문제를 제기하고, 이에 대응할 새로운 기회를 제공한다. AI는 집단 방어, 위기관리, 협력 안보 등과 같은 나토의 모든 핵심 과제에 영향을 미칠 것이다.

AI는 동맹의 2010년 전략 개념에 정의된 바와 같이 나토의 모든 핵심 과제, 즉 집단 방어, 위기관리, 협력 안보에 영향을 미칠 것이다.

새로운 기회, 위험 및 번영과 안보에 대한 위협이 위험에 처해 있는 상황에서 이 기초 기술과 관련된 약속과 위험은 너무 방대해 어떤 한 명의 행위자도 혼자 감당하기 어렵다.

결과적으로, 국제 안보 위험을 동등하게 완화할 뿐만 아니라 엔터프라이즈 기능, 임무 지원 및 운영을 혁신할 수 있는 기술의 잠재력을 활용하기 위해 협력이 본질적으로 필요하다.

잠재적인 적들에 대항하여 저지하고 방어하는 동맹의 지속적 능력은 새로운 위기에 효과적으로 대응할 수 있는 동맹의 기술적 우위를 유지하는 능력에 달려 있을 것이다. 군사적으로, 연합군의 비교우위를 보장하는 것은 상호운용성과 국제법 준수를 보장하기 위한 공통의 정책 기반과 디지털 중추신경계에 의존할 것이다.

인적, 정보 및 물리적 요소가 결합하여 전장에서 결정적인 우위를 점하게 되면서 상호운용성은 더욱더 중요해지고 있다. 게다가, 경쟁자들과 잠재적인 적들이 군사적 목적으로 AI에 투자함에 따라 연합국들이 그들의 집단적 안보를 보장하기 위해 공동의 대응을 개발하도록 확실히 하는 것이 더욱 시급해질 것이다.

NATO AI 전략의 공식 채택으로, 연합국은 국방과 안보 모두에서 이러한 과제를 해결하는 데 필요한 협력을 약속했으며, NATO를 주요 대서양 횡단 포럼으로 지정했다. NATO의 AI 전략은 AI에 대한 책임 있는 사용 원칙을 채택하고 국가 및 비국가 행위자의 악의적인 AI 사용 위협으로부터 보호하는 등 정책을 조정함으로써 AI 채택을 가속화하는 데 목적이 있다.

AI타임스 조행만 객원기자 chohang5@kakao.com

[관련 기사]"AI가 다양한 군사적 결정에 큰 영향 끼쳐...세계 각 국 정부는 AI억제력 재고해야"

[관련 기사]미-영, 향후 4년간 AI 국방 기술 공동 개발해 전투력 끌어올린다

Copyright ⓒ '인공지능 전문미디어' AI타임스 (http://aitimes.com)