"AI 에브리웨어 시대의 현명한 생존 전략은?" TNBT Korea 2024 성료

IT 시장 분석 및 컨설팅 기관인 한국IDC와 글로벌 테크 미디어 ITWorld/CIO Korea가 공동 주최하는 'TNBT(The Next Bing Thing) Korea 2024' 행사가 19일 인터컨티넨탈 서울 코엑스 하모니볼룸에서 개최됐다. '디지털 퍼스트 미래의 개척'을 주제로 진행된 이번 행사에는 다양한 국내외 연사가 참여해 생성형 AI와 클라우드를 활용한 비즈니스 전략을 공유했다.

ⓒ ITWorld

오프닝 키노트를 맡은 IDC 아시아 태평양 지역 그룹 부사장 산드라 응은 'AI 모먼트, 새로운 기술과 비즈니스의 시대'를 주제로 발표했다. IDC 조사에 따르면, 아태지역 CEO 58%는 기업이 AI를 이미 도입했거나 도입을 준비 중이다. 응은 "이런 역동적인 AI 모먼트는 새로운 기술과 비즈니스 시대를 의미한다"라며, AI가 모든 업계에 많은 변화를 가져오는 "AI 에브리웨어(AI Everywhere)"가 "넥스트 빅 씽(Next Big Thing)"이라고 말했다.

IDC는 내년 말이면 아태지역 상위 2,000곳 기업이 핵심 IT 지출의 50% 이상을 AI 이니셔티브에 할당할 것으로 예상했다. 한국 기업은 특히 생성형 AI 도입에 있어 앞서나가고 있다. 응에 따르면, 한국 기업은 지난 1년 동안 평균 20~25개의 사용례를 기준으로 생성형 AI 파일럿 프로젝트를 운영했는데, 프로젝트 수 자체는 낮지만 성공률은 70% 이상으로 가장 높은 것으로 나타났다. 응은 "양보다는 질이다. 비즈니스 임팩트가 얼마나 만들어지는지가 중요하다"라고 설명했다.

이어진 세션에서 서비스나우 오희정 솔루션 스페셜리스트는 구체적인 AI 도입 전략을 소개했다. 오 상무는 서비스나우의 AI 워크플로우 플랫폼과 같은 AI 기반 툴을 기반으로 "빠른 적용을 통해 빠른 효과를 가져갈 것"을 제안했다. 또한 도입 과정에서 "데이터 보안 문제, 파편화된 비즈니스 데이터, 부족한 LLM 컨텍스트 및 높은 투자 비용 고려, AI 경험에 대한 높은 기대치"를 선제적으로 고려해야 한다고도 덧붙였다.

'AI 에브리웨어'라는 말처럼 PC 업계의 화두도 역시 AI다. 레노버 코리아 조병필 전무는 "2023년에는 CEO가 1순위로 생각한느 것이 매출이었지만, 2024년 조사에서는 생성형 AI로 대표되는 신흥 기술을 조직에 어떻게 반영할 것인가에 대한 고민이 최우선 순위였다"라고 말했다. 직원 사이에서도 AI의 위상은 높다. 조 전무에 따르면, 오늘날 AI는 회사에서 반드시 갖춰야 할 필수 덕목으로 여겨지는 이른바 '위생 요인(hygiene factor)'으로도 꼽히고 있다.

기회와 위기는 언제나 함께 온다. 개인 생활뿐 아니라 업무에서도 생성형 AI 툴을 사용하면서 기업에는 새로운 섀도우 IT가 등장했다. 기업 내부의 민감 데이터 유출이 우려되는 상황이다. 클라우드플레어의 혁신 책임자 제임스 올워스는 IDC 아태 지역 그룹 부사장 산드라 응과 함께 진행한 1:1 대담 세션에서 "위험에 대응하기 위한 통제 체제와 데이터 유출에 대비한 보호 조치가 필요하다. 기업의 독점 데이터를 보호하고 비용을 관리해야 모든 사람이 이 기술을 사용할 수 있다"라고 조언했다.

엘라스틱 코리아 김관호 상무는 '성공적인 생성형 AI RAG(Retrieval-Augmented Generation) 구성을 위한 벡터 DB'를 주제로 발표했다. 김 상무는 생성형 AI의 등장으로 기존의 검색 시스템이 존폐 위기에 몰릴 것이라고 생각했으나, 오히려 검색이 그 어느 때보다 중요해졌다고 말했다. 이어 기업에서 RAG 기반 LLM을 활용할 때 환각 현상을 최소화하고 학습 비용을 줄이며, 최신 데이터를 반영할 수 있는 방법을 제안했다.

IBM 코리아 전상호 상무는 AI를 위한 GPU 팜(Farm)을 구축할 때 고려해야 할 스토리지 설계 방안에 대해 설명했다. 전 상무에 따르면, 핵심은 ▲ML/DL에 지연이 발생하지 않을지 스토리지 성능에 대한 검토 ▲데이터 수집, 분석, 저장 및 배포의 관리 프로세스 자동화 ▲계층적 스토리지 구성을 통한 성능, 용량 및 비용의 균형 3가지다. 이런 고려 사항을 중심으로 전 상무는 IBM의 AI 특화 스토리지인 SSS 6000의 활용례를 소개했다.

이어진 세션은 스탠퍼드 대학교의 AI 전문가 프로그램 코스 퍼실리테이터(course facilitator) 다니엘 우가 초청 연사로 참여해 생성형 AI에 대한 개인적인 연구 결과를 공유했다. 특히 우는 생성형 AI와 관련한 주목할 만한 동향으로 'LLM로 강화된 로봇'과 '에이전틱 AI(Agentic AI)' 2가지를 소개하며 "AI는 가상의 세계에 있지만 로봇은 물리적으로 소통하므로 실제적인 효과가 나올 수 있다. 에이전틱 AI는 AI가 자립성을 갖추고 자율적으로 작동하는 시스템으로, 실제로 개발되면 각기 다른 테스크에 특화된 에이전틱 AI가 서로 자동으로 협력하는 미래가 도래할 수 있다"라고 설명했다.

ⓒ ITWorld

오후에도 많은 전문가가 AI에 대한 인사이트를 다양한 관점에서 소개했다. 퓨어 스토리지 강신우 이사는 '데이터 플랫폼 진화에 따른 스토리지 트랜드 및 AI 최적화를 위한 인프라 아키텍처 설계 방안'을 주제로 발표했다. 강 이사에 따르면, 하드디스크의 느린 성능을 개선하기 위해 SSD가 나왔고 SSD 저장 방식이 매우 빠르게 진화하고 있다. 초창기 SSD는 소규모 용량을 빠르게 처리하는 정도에 그쳤다면 최근에는 고집적 낸드 플래시 기술이 개발되는 추세다.

워카토(Workato) 최고전략책임자 마르쿠스 지른은 엔터프라이즈 오케스트레이션과 서비스형 통합 플랫폼(Integration platform as a service, iPaaS) 트랜드를 소개하고, 워카토가 기업의 여러 시스템 간의 원활한 통합과 자동화를 지원하는 방법을 설명했다. 지른은 "쉽게 말하면 하나의 플랫폼, 하나의 워크플로우로 여러 작업을 하는 것이다. RPA와 비슷하지만 더 복잡하다. 최근에는 AI를 통해 더욱 효율적인 방법으로 오케스트레이션을 제공하려고 한다"라고 말했다.

이어 오픈테스트 코리아의 전욱진 기술위원은 '더 나은 AI를 위한 더 나은 정보 관리'를 주제로 발표했다. 전 위원은 "AI 시대에서 잘 관리되고 정돈된 콘텐츠는 굉장히 중요하다. 체계적이고 정돈된 콘텐츠는 AI를 활용하고 발전시킬 수 있는 근간이 된다. AI 혁신에 있어서 정보 관리는 필수적"이라며, 콘텐츠 기반 정보 관리 솔루션을 통해 주요 비즈니스 과제를 해결하는 방법을 제안했다.

두 번째 초청 연사인 홍콩과기대 황보현우 교수는 멀티모달 AI 시대의 경쟁 우위 확보 전략에 대해 설명했다. 생성형 AI와 관련한 트렌드는 매우 빠른 속도로 변한다. 예를 들어, 불과 얼마 전까지만 해도 코딩 능력이 직장인의 필수 소양으로 꼽혔지만 생성형 AI 챗봇은 10여 분 만에 웹사이트를 만들고, 코드를 실시간으로 수정하기도 한다. 이에 황보 교수는 프롬프트 엔지니어와 데이터 과학자의 역할이 중요해질 것이라고 전망했다. 또한 다양한 AI 도구를 마음껏 써볼 것도 권했다.

수세 코리아 최기원 부장은 'AI 혁신을 지원하는 클라우드 네이티브 전환 및 보안 전략'을 제시했다. 최 부장은 HPC를 이용해 AI를 구현한 여러 사례를 언급하며, HPC AI에서 쿠버네티스 AI로 이동했을 때 누릴 수 있는 이점을 소개했다. 대표적인 적인 것이 확장성, 유연성, 자동화, 비용 효율성, 보안 및 관리 등이다. 특히 최 부장은 "AI 보안 툴은 AI로 인해 뚫릴 수도 있다는 점을 인지해야만 올바른 AI 도입 환경을 마련할 수 있다"라고 말했다.

이어진 세션에서는 텐센트 클라우드 코리아 임석영 솔루션 아키텍트가 비즈니스 시나리오 개발에 영감을 주는 다양한 클라우드 기반 AI 기능을 소개했다. 구체적으로 임석영 SA는 이미지 및 비디오 생성부터 디지털 휴먼, 페이스 퓨전, 손바닥 스캔, 스마트 비디오 분석 플랫폼 등 텐센트 클라우드 AI가 제공하는 다양한 기능을 시연하며, 최신 AI 트렌드를 바탕으로 기업이 추구하는 기술에 대한 이해와 인사이트를 공유했다.

한국IDC 전대일 수석연구원은 생성형 AI 시장 현황을 짚었다. 지난 4월 조사 결과, 전 세계적으로는 생성형 AI를 프로덕션에 도입 및 확대 중인 기업이 17%로 나타났으나, 아태지역 비율은 4%에 그쳤다. 답변의 부정확성/유해성에 대한 우려(32%)와 필요에 맞는 사용례 부족(28%), 높은 개발 비용(27%) 등이 대표적인 이유였다. 전 연구원은 앞으로 "산업 및 업무별 사용례, 기업이 원하는 지표의 통합과 구체적이고 장기적인 비용 분석, 서로 다른 개발 언어를 사용하는 개발 조직 간 교류와 상호 성장"이 주요 이슈로 떠오를 것이라고 전망했다.

2024년 이후 생성형 AI 시장은 어떻게 흘러갈까? 마지막 세션에서는 초청 연사로 참석한 카이스트 전기 및 전자공학부 김대식 교수는 AI 기술의 미래를 전망했다. 김 교수에 따르면, 현재 LLM은 '거대세상모델(Large World Model)' 또는 '거대행동모델(Large Action Model)'로 진화하고 있다. "언어뿐 아니라 멀티 모델로 세상을 알아보고, 이 세상에서 할 수 있는 액션이 무엇인지 추론하는 기계"를 만드는 방향으로 나타가고 있다는 것이다. 또한 김 교수는 "챗GPT는 첫 예제일 뿐이다. 이제 인간의 지적 노동력도 대량 생산이 가능하다는 가설을 제공할 수 있기 때문에 산업혁명 과정에서도 상당히 중요한 영향을 미칠 듯하다"라고 덧붙였다.
editor@itworld.co.kr

편집부 editor@itworld.co.kr
저작권자 한국IDG & ITWorld, 무단 전재 및 재배포 금지