MS, 프롬프트 실드 보안 기능 강화…"AI 이용한 사기 막아라"

[AI리포터]

MS가 보안 기능인 프롬프트 실드를 더욱 강화한다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 마이크로소프트(MS)가 인공지능(AI) 기반의 사기 방지를 위한 새로운 보안 기능을 개발했다고 28일(현지시간) 블룸버그가 전했다.

이는 MS의 자체 AI 서비스인 애저(Azure)에 적용된 보안 기능인 '프롬프트 실드'(Prompt Shields)를 더욱 강화한다는 것이다.

AI 모델을 학습시키는 데이터에 악의적인 명력을 삽입해 사용자 정보를 도난하거나 시스템을 해킹하는 등의 행위를 막겠다는 설명이다. 또 MS는 AI 모델이 잘못된 응답을 생성할 때 사용자에게 경고하는 기능도 개발할 계획이다.

사라 버드 MS AI 최고제품책임자(CPO)는 "AI 사용이 늘어남에 따라 이러한 공격이 증가하고 있다"라며 "이것은 독특한 도전이자 위협이기 때문에 거대언어모델(LLM)에 보호 기능을 구축하는 데 전념하겠다"라고 설명했다.

한편 해당 보안 기능은 챗GPT, 라마2 등의 주요 AI 모델에는 바로 적용할 수 있으나 소규모 오픈 시스템의 사용자는 수동으로 보안 기능을 지정해야 한다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>