AI 챗팅·코딩·보고서 제작 등
‘마이챗’ 외국어 번역 등 활용
오케스트레이션·LLM·sLLM 연계
[SK C&C 제공] |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
[헤럴드경제=권제인 기자] SK C&C는 6일 멀티 거대언어모델(LLM)과 연계해 기업에서 즉시 사용 가능한 맞춤형 생성형 AI 서비스 13종을 내놨다고 밝혔다.
생성형 AI 서비스 13종은 AI 챗팅·코딩·보고서 제작 등 일반 범용 AI 서비스 3종을 비롯해, 인사·재무/회계·법무·규제준수(Compliance)·구매/물류·생산관리·연구개발(R&D)·IT개발·마케팅·고객관리 등 직무 영역별 전문 AI 서비스로 구성됐다.
서비스는 SK C&C가 AI 오케스트레이션(Orchestration) 플랫폼과 국내외 LLM, 그리고 금융·제조 분야에서 수요가 많은 sLLM(경량화 거대언어모델)을 연계해 개발했다.
특히, SK C&C는 생성형 AI 오케스트레이션 플랫폼에 AI 채팅 서비스인 ‘마이챗(MY CHAT)’을 기본 서비스로 탑재해 일반 사무 활용도를 높였다. 마이챗을 설치하면 사내 데스크톱 가상화(VDI) 업무 환경에서도 완벽한 보안 상태를 유지하며 국내외 LLM을 사용할 수 있다.
마이챗을 활용해 기업 재무 정보, 시장 동향 등을 물어보거나 보고서 작성, 문서 요약, 외국어 번역 등의 업무를 맡길 수도 있고, 각종 업무 시스템 연계해 사내 지식 검색·상담 창구로도 역할 확대가 가능하다.
마이챗의 핵심인 오케스트레이션 기술은 작년에 구축 완료한 ‘우리은행 AI 지식상담 서비스’에 적용됐다. 이외에도 SK주식회사, SK네트웍스, SKC, SK쉴더스 등 관계사에서 사용 중이며, 사내 헬프 데스크로 활용 범위를 확대할 예정이다.
윤풍영 SK C&C 사장 [SK C&C 제공] |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
직무별 전문 AI 서비스는 실제 산업 적용 사례를 기본 모델로 개발했다. SK C&C는 제조 장비·설비 이상 징후를 탐지하고 장애에 대응한 사례 외에도, 대내외 데이터를 활용한 고객 상담 FAQ 및 영업 상담 스크립트 추천, AI 기반 언더라이팅(보험 계약 심사) 등 실제 생성형 AI 서비스 적용 사례를 반영했다.
SK C&C는 생성형 AI 도입으로 인한 비용 증가, 정보오류·환각(Hallucination), 내부 데이터 유출과 같은 우려도 없앴다고 강조했다. 생성형 AI 오케스트레이션 플랫폼에서 ▷미세 조정(Fine-Tuning) ▷프롬프트 엔지니어링 ▷데이터 보안 및 권한 관리 등을 거치며 보안 안정성도 확보할 수 있다.
또한, 외부 LLM과 기업 내부 정보 검색 시스템을 실시간으로 결합하는 검색증강생성(RAG) 기반 스마트 에이전트 방식을 적용해 결과값의 정확도를 높였다고 설명했다.
차지원 SK C&C G.AI그룹장은 “생성형 AI는 현재 기업 내에서 일어나는 모든 업무 영역을 재창조할 수 있는 잠재력을 보유하고 있다”며 “기업 구성원들이 SK C&C의 맞춤형 생성형 AI 서비스를 효율적으로 업무에 활용할 수 있다”고 말했다.
eyre@heraldcorp.com
Copyright ⓒ 헤럴드경제 All Rights Reserved.
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.