새해 빅테크 AI 에이전트 시대 열린다…데이터 편향·책임소재 해결은 숙제

새해 빅테크 기업의 인공지능(AI) 에이전트(비서) 경쟁이 본격화될 전망이다.

소프트웨어정책연구소(SPRi)는 'AI 에이전트 동향' 보고서에서 빅테크 기업이 AI 에이전트 시장에 잇따라 진출하며 다양한 수익 모델을 창출하기 시작했다고 밝혔다.

AI 에이전트는 이용자가 원하는 목적을 달성하기 위한 '독립적인 의사결정 능력'을 갖춘 것이 특징이다. AI·컴퓨팅 기술 발전으로 AI가 데이터를 실시간 처리하고 빠르게 의사결정을 내릴 수 있는 환경이 갖춰지면서 차세대 기술로 부상했다. AI 에이전트는 고객서비스, 스마트홈, 산업 자동화 등에서 사용자와 자연스러운 상호작용을 요구하는 환경이 늘면서 수요가 확대되고 있다.

빅테크 기업은 개인화된 서비스, 실시간 대응 등 혁신 기술을 내세우며 치열한 경쟁을 시작했다.

MS는 클라우드 플랫폼 '애저'를 중심으로 강력한 AI 에이전트를 개발·운영하는 한편 '마이크로소프트365 코파일럿' 등으로 최신 AI 에이전트를 활용할 수 있도록 한다. 오픈AI와 협력해 '챗GPT'와 기타 AI 모델을 애저에 통합, 다양한 상용 서비스를 선보이고 있다.

구글은 '구글 어시스턴트', '다이알로그플로우', '듀플렉스' 등 AI 에이전트를 제공하고 있다. 최근에는 '제미나이' 모델을 기반으로 '프로젝트 아스트라'를 공개하고 멀티모달 기반의 미래의 AI 비서 기능을 제시했다.

애플은 '시리'와 '애플 인텔리전스'를 통해 개인정보 보호에 특화된 AI 에이전트로 차별화하고 있다. 음성 인식과 온디바이스 학습으로 사용자 경험을 강화하고 자사 애플 생태계에 통합 중이다.

메타는 AI와 메타버스의 연결을 시도하는 한편, 챗봇을 기반으로 다양한 플랫폼에서 실생활 작업을 지원하고 있다. 페이스북, 인스타그램, 왓츠앱 등에서 추천 콘텐츠, 맞춤형 광고, 이미지 편집 등에 쓰이는 것이 대표적이다.

오픈AI는 새해 초 '오퍼레이터'라는 코드명의 자율형 AI 에이전트를 출시할 계획이다.

시장조사기관 리서치앤드마켓에 따르면 AI 에이전트 시장은 2024년 51억달러에서 2030년 471억달러(약 68조원)로 성장할 것으로 예상된다. 이 기간 연평균 성장률은 44.8%로 추정된다.

AI 에이전트 시장이 급속히 성장할 것으로 예측되지만, 기술적·법적·윤리적 이슈 등 과제도 있다.

보고서는 기술적으로는 '데이터 편향'과 '정확성' 문제를 꼽았다. 독립적 판단을 내리는 AI 에이전트는 대량 학습 데이터를 기반으로 지시를 수행한다. 그러나 데이터가 편향적이거나 정확성이 떨어질 경우 잘못된 판단을 내릴 위험이 존재한다.

법적으로는 책임 소재가 불분명하다는 문제도 있다. AI 시스템의 판단 오류가 발생했을 때 책임 소재를 어디에 둘 지가 명확하지 않다.

또, 개인정보 침해와 보안 문제 등 윤리적 이슈도 제기됐다. AI 에이전트는 이용자 데이터를 대량으로 수집·분석해 개인화된 서비스를 제공하기 때문이다.

연구진들은 “특히 자율주행차나 의료 AI와 같이 생명과 안전에 직접적으로 영향을 미치는 AI 에이전트의 경우 법적 규제가 중요하다”며 “데이터 사용 과정에서 사용자의 개인정보가 침해될 우려가 있으며, 데이터 유출 위험도 증가한다”며 이에 대한 대책이 필요하다고 주문했다.

김명희 기자 noprint@etnews.com, 현대인 기자 modernman@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]