컨텐츠 바로가기

02.09 (일)

엔비디아, AI 가드레일 위한 NIM 마이크로서비스 출시

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다
[아이뉴스24 설재윤 기자] 인공지능(AI) 컴퓨팅 기술 분야의 선두주자인 엔비디아가 AI 가드레일을 위한 새로운 엔비디아 NIM 마이크로서비스를 출시했다고 17일 발표했다.

아이뉴스24

지난 16일(현지시간) 엔비디아 관계자가 엔비디아 NIM 마이크로서비스에 대해 설명하고 있다. [사진=캡처]

<이미지를 클릭하시면 크게 보실 수 있습니다>



개발자는 새로운 NIM 마이크로소프트를 이용해 보다 안전하고 신뢰할 수 있는 AI 에이전트를 구축할 수 있게 됐다.

AI 에이전트는 다양한 작업을 수행하는 '지식 로봇'을 통해 생산성을 향상시킬 수 있지만 신뢰, 안전, 보안 등에 있어 문제를 노출해 왔다.

AI 가드레일을 위한 엔비디아 NIM 마이크로서비스는 소프트웨어 도구 모음인 엔비디아 네모 가드레일의 일부다. 이는 기업이 생성형 AI 애플리케이션의 안전성, 정확성, 확장성을 개선할 수 있도록 돕는 휴대용 최적화 추론 마이크로서비스다.

마이크로서비스 조정을 위한 핵심 요소는 엔비디아 네모 플랫폼의 일부인 네모 가드레일로, AI를 큐레이팅, 맞춤화, 가드레일링하는 데 도움을 준다. 네모 가드레일은 개발자가 거대 언어 모델(LLM) 애플리케이션에 AI 가드레일을 통합하고 관리할 수 있도록 지원한다.

개발자는 새로운 NIM 마이크로서비스를 통해 AI에이전트의 안전성을 높일 수 있다. 이를 통해 AI 에이전트는 주제별 가이드라인 내에서 안전하고 적절한 응답을 제공한다. 또, 자동차, 금융, 의료, 제조, 소매업 등 다양한 산업의 고객 서비스에 배치돼 고객 만족도와 신뢰도를 높일 수 있다.

이날 엔비디아는 AI 에이전트가 대규모로 운영되면서도 제어된 행동을 유지할 수 있도록 돕는 네모 가드레일을 위한 NIM 마이크로서비스 세 가지를 공개했다. 해당 서비스는 △콘텐츠 안전 △주제 제어 △탈옥(jailbreak) 탐지의 유형으로 분류된다.

오픈 소스 커뮤니티에서 사용할 수 있는 네모 가드레일은 개발자가 레일(rail)이라고 불리는 여러 가지 AI 소프트웨어 정책을 조정해 LLM 애플리케이션의 보안과 제어를 강화할 수 있도록 돕는다. 이는 엔비디아 NIM 마이크로서비스와 함께 작동해 안전성이나 성능을 저해하지 않으면서도 대규모로 배포할 수 있는 AI 시스템을 구축하기 위한 강력한 프레임워크를 제공한다.

암독스, 세렌스 AI 등 AI 관련 업계는 이미 네모 가드레일을 도입해 자사의 AI 시스템을 보호하는데 사용하고 있다.

암독스는 엔비디아 네모 가드레일을 어메이즈(amAIz) 플랫폼에 통합해 플랫폼의 '신뢰할 수 있는 AI(Trusted AI)' 기능을 강화한 바 있다.

암독스의 기술 부문 그룹 회장 겸 전략 부문 책임자인 앤소니 구네틸렉은 "네모 가드레일과 같은 기술은 생성형 AI 애플리케이션을 보호하고 안전하고 윤리적으로 작동하도록 하는 데 필수적이다"며 "이를 통해 안전하고 신뢰할 수 있으며, 확장 가능한 에이전틱 경험을 제공할 수 있게 됐다"고 말했다.

/설재윤 기자(jyseol@inews24.com)


[ⓒ 아이뉴스24 무단전재 및 재배포 금지]


기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.