JR 동일본, RAG 기반 AI 시스템 도입…업무 효율성 높인다

[AI리포터]

[디지털투데이 AI리포터] 일본 철도 회사 JR 동일본이 최신 기술을 활용한 인공지능(AI) 시스템을 도입할 예정이라고 12일(이하 현지시간) IT미디어가 전했다.

JR 동일본은 지난 11일 검색 증강 생성(RAG) 기반의 AI 시스템을 도입한다고 밝혔다. 해당 시스템은 오는 10월부터 시범 운영될 예정이며, 사내 규정과 문서 검색 작업의 효율성을 높이는 것을 목표로 한다.

최근 텍스트 생성 AI가 주목받고 있지만 이러한 기술이 가진 정확성과 신뢰성은 사용자와 개발자에게 중요한 해결책으로 여겨진다. 이를 해결하기 위해 등장한 기술이 바로 RAG(Retrieval-Augmented Generation)로, 이는 대규모언어모델(LLM)의 단점 중 '사실 관계 오류 가능성'과 '맥락 이해의 한계'를 개선하는 데 초점을 맞췄다.

이러한 RAG는 LLM에 사내 데이터베이스 정보를 참조하게 하는 시스템으로, 기밀 정보나 전문 지식에 기반한 답변을 제공한다. 이는 AI 챗봇 개발 등에 활용되며 라인 야후와 닛신식품 등에서도 도입과 검토를 진행 중이다.

앞서 2023년 10월 JR 동일본은 RAG를 사용하지 않는 AI 채팅 서비스를 도입한 바 있다. 이어 2024년 6월에는 이를 전사적으로 확대했다. RAG를 활용한 자체 제작 툴 역시 2023년 11월부터 도입하고 있다. JR 동일본은 이를 바탕으로 의견을 얻어 전사적으로 확대할 계획이다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>