생성형AI 미래는?…"요구 커진만큼 평가와 검증이 중요해"

[2024 키플랫폼] 특별세션1 발표_조기수SKC&C G.AI혁신팀장

조기수 SK C&C 팀장이 25일 영등포구 여의도 콘래드서울호텔에서 머니투데이 주최로 열린 '2024 키플랫폼' 총회 특별세션에서 '한국 기업 생성형AI 활용의 현재와 미래'를 주제로 발표하고 있다. /사진=김휘선

"생성형AI와 LMM을 활용했을 때 기존에 하던 업무가 얼마나 바뀔 것인가를 묻는다면, 100이면 100 재창조될 거라고 말한다"

조기수 SKC&C G.AI혁신팀장은 25일 서울 여의도 콘래드 서울 호텔에서 열린 머니투데이 글로벌 콘퍼런스 '2024 키플랫폼'(K.E.Y. PLATFORM 2024)' 특별세션1 발표에서 이같이 강조했다. 그는 "생성형AI(인공지능)와 LLM(Large Language Model·대형언어모델) 분야의 활용도가 다양해지면서 니즈(Needs·요구)도 커지고 있다"며 "평가와 검증이 중요하다"고 말했다.

이날 진행된 특별세션1은 '세계를 재창조하는 AI의 미래'라는 대주제로 진행됐다. 조 팀장은 '한국 기업 생성형AI 활용의 현재와 미래'라는 주제로 강연에 나서 생성형AI와 LMM 기반의 B2B(Business to Business·기업간거래)의 전반적인 트렌드와 SKC&C가 제공하는 실제 사례들을 소개했다.

━
생성형AI를 활용한 B2B서비스의 현재…"기대치 높아진 만큼 한계도"
━
조 팀장은 "생성형AI를 활용하는 B2B에 대한 기대치가 이전보다 많이 증가했다"고 했다. 챗GPT 등이 등장하면서 기본적인 눈높이가 이전보다 높아진 데다 비즈니스에 적용했을 때 드라마틱한 혁신을 기대한다는 설명이다. 그는 "과거에 AI 모델에 대해 70~80% 정도의 정확성을 요구했다면 요즘은 95% 이상을 요구한다"며 "투자한 만큼 효과를 얼마나 볼 수 있는가에 대한 간극이 존재한다"고 말했다.

다만 조 팀장은 아직 발전할 부분도 많다고 했다. 그는 "고객 입장에서 LLM으로 대답하는 무언가를 만들었을 때 10번 질문 중에 7번은 정답을 말하고 3번은 애매한 대답을 할 때가 있다"며 "여기에 할루시네이션(환각·허구로 만들어진 대답)까지 섞이면 그 대답을 사용할 수 있을지 고민이 들게 된다"고 말했다.

보안 문제도 숙제로 남아있다. 금융권이나 국가 시설·반도체 기업 등 보안을 중시하는 기업에게는 생성형AI를 활용한 서비스를 적용하기 어렵다는 문제도 있다. 조 팀장은 "금융권 같은 경우에 망분리 요건의 문제가 있고 국정원이나 SK하이닉스 같은 국가보안시설로 지정된 경우에는 아예 LLM을 쓰지 못하기 때문에 이런 보안 이슈들은 굉장히 도전적인 과제들"이라고 말했다.

━
앞으로의 생성형AI 핵심은?…"평가와 검증 강화"
━
조 팀장은 앞선 한계들이 있는 만큼, 발전된 생성형AI를 위해 '평가와 검증'을 강화하고 있다고 강조했다. 그는 "단순한 답변이라도 △실제로 찾아오는 데이터가 질문에 맞는지 △할루시네이션 없이 잘 답변이 이루어졌는지 △질문과 답변 연관성은 있는지 등을 체크하면서 답변 품질을 높이는 방향으로 집중하고 있다"고 말했다.

그러면서 AI에이전트를 예시로 들었다. 그는 "'청킹'을 한다고 하더라도 단순히 자료를 글자 수대로 자르는 게 아니라 의미 기반으로 자르고 다시 클러스터링하는 등 매우 많은 기법들이 품질에 다 영향을 주게 된다"고 설명했다.

이날 발표에서는 SKC&C가 직접 제공하는 B2B 주요 케이스도 만나볼 수 있었다. SK C&C는 금융권·CS(소비자서비스)·법률·AI코딩 등 여러 분야에 생성형AI를 활용한 서비스를 제공한다. 금융권 사례로는 '대화형 펀드'로 고객이 상품을 검색하면 상담을 해주고 적당한 펀드를 추천해주는 서비스가 있다. 변호사를 효율적으로 도울 수 있는 법률서비스도 제공하고 있으며, 표준 계약서를 검토해서 독소조항을 뽑아내는 기능도 있다.

조 팀장은 끝으로 며 "고객의 니즈들이 하나의 케이스나 플랫폼으로 통합될 수 없기 때문에 그때마다 커스터마이징해서 만든다"며 "쉽지 않지만 기술적 역량과 함께 고객 니즈도 만족시키기 위해 노력하고 있다"고 말했다.

이병권 기자 bk223@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지