코히어, 기업용 AI 플랫폼 '노스' 출시...기업용 검색에 초점

[박찬 기자]

코히어가 기업을 위해 간단하게 인공지능(AI) 모델을 활용할 수 새로운 플랫폼 '노스(North)'를 출시했다. 노스가 금융과 HR, 고객 지원 및 IT 기능 전반에서 마이크로소프트(MS)의 '코파일럿'이나 구글의 '버텍스 AI'를 능가한다고 주장했다.

코히어는 9일(현지시간) 기업들이 민감한 데이터를 안전하게 관리하면서 AI를 배포할 수 있도록 대형언어모델(LLM)과 검색, 자동화 도구 등을 결합한 AI 워크스페이스 플랫폼 '노스'를 출시했다.

노스는 기업이 '커맨드(Command)' 모델 시리즈와 상호작용할 수 있는 챗봇 인터페이스를 제공한다. 이 도구를 통해 직원들은 수익 보고서를 분석하거나 문서를 찾는 등의 비즈니스 작업을 수행할 수 있다. 텍스트뿐만 아니라 그래프와 같은 데이터도 출력할 수 있다.

사용자는 노스를 통해 특정 작업에 최적화된 AI 에이전트를 생성할 수 있다. 코히어는 AI 에이전트 생성이 클릭 몇번만으로 가능하며, 프로그래밍 전문 지식이 필요하지 않다고 설명했다.

또 노스에 내장된 검색 시스템 '컴파스(Compass)'는 기업 시스템 내에서 특정 데이터 조각을 찾아 AI 모델이 이를 사용할 수 있도록 제공한다. 문서뿐만 아니라 슬라이드, 이미지, 스프레드시트 등 다양한 형식의 파일에서 데이터를 추출할 수 있다.

이미지, 프레젠테이션, 스프레드시트 및 문서 등 다양한 데이터 유형을 여러 언어로 처리할 수 있다.

특히 기업에서 가장 수요가 많은 검색에 집중했다. 내부 테스트에 따르면 이 시스템은 수작업 검색에 비해 작업 완료 시간을 80% 이상 단축한 것으로 나타났다.

컴파스는 두가지 AI 모델을 기반으로 한다. 첫번째 모델인 '임베드(Embed)'는 데이터를 임베딩으로 변환, AI 모델이 비즈니스 문서를 쉽게 처리할 수 있도록 한다. 두번째 모델인 '리랭크(Rerank)'는 사용자의 쿼리에 응답해 검색된 정보를 분석, 가장 관련성이 높은 항목을 우선순위로 정렬한다.

내부 평가에서 노스는 금융과 HR, 고객 지원, IT 업무 등 네가지 분야에서 모두 MS의 코파일럿과 구글의 버텍스 AI를 능가했다고 밝혔다. 이 평가에서는 AI 답변의 연관성과 정확도를 측정하는 '라마 인덱스(Llama Index)' 벤치마크를 사용했다.

또 이 플랫폼의 장점으로 클라우드와 온프레미스 환경 모두에서 배포할 수 있으며, 특히 보안에 강하다는 것을 강조했다. 이를 '공기차단 환경(air-gapped environments)'에서도 실행 가능하다고 설명했는데, 이는 보안상 이유로 기업의 네트워크와 인터넷에서 분리된 환경을 의미한다. 즉, 금융이나 헬스케어와 같이 민감한 개인정보를 다루는 산업에서 유용하다는 말이다.

에이든 고메스 코히어 CEO는 "현재의 맞춤형 AI 배포 방식은 시간과 전문 지식, 자원 등이 필요해 기업에 부담을 안겨준다"라며 "노스는 이런 문제를 극복하고 기업이 빠르게 성과를 낼 수 있도록 돕는다"라고 말했다.

이미 이 플랫폼은 캐나다 로열 뱅크 등에서 활용 중인 것으로 알려졌다. 특히 코히어는 금융 산업에 최적화된 소프트웨어 버전을 개발하기 위해 은행과 협력할 계획이라고 밝혔다.

노스는 현재 대기자 명단 접수 중이며, 금융과 헬스케어, 제조업, 주요 인프라 부문을 우선 지원한다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>