[AI WAVE 2025] “AI 도입, 데이터·인프라부터”…HS효성인포, AX 구축 로드맵 제시

[디지털데일리 이안나 기자] 생성형 인공지능(AI) 시스템 도입을 둘러싼 기업들 관심이 높아지는 가운데, AI 도입 실효성을 높이기 위해선 조직 내부 데이터를 중심으로 한 기술·인프라 전략과 요구사항 정의가 선행돼야 한다는 제언이 나왔다. AI 전환(AX)을 총체적으로 준비하는 전략이 필요하다는 분석이다.

권동수 HS효성인포메이션시스템 전문위원은 28일 서울 중구 롯데호텔에서 열린 ‘AI WAVE 2025’ 콘퍼런스에서 ‘AX와 지속가능성이 가져올 미래 혁신’을 주제로 발표했다. 그는 발표를 통해 기업들이 생성형 AI를 도입할 때 기술보다 우선 고려해야 할 기반 조건들을 구체적으로 짚었다.

AI에 대한 조직 기본 역량으로 권 전문위원은 ‘AI 문해력’을 언급했다. 그는 “단순히 AI를 사용하는 기술이 아니라 AI 출처와 맥락을 이해하고 결과를 비판적으로 판단할 수 있는 능력이 중요하다”며 “외부 도구에만 의존하는 활용 방식은 지속가능한 경쟁력으로 이어지기 어렵다”고 지적했다. AI 도입 논의에 앞서 내부 데이터 수준과 조직 역량 진단도 선행돼야 한다.

권 전문위원은 AX를 단순한 시스템 도입이 아닌 조직 구조 전반을 재설계하는 전략적 접근으로 정의했다. 디지털전환(DX)으로 확보한 데이터 기반으로, 자동화 도구와 AI 기술을 유기적으로 결합해 실질적인 업무 지능화를 실현하는 것이 핵심이라는 설명이다.

이런 과정에서 AI 기술 고도화가 주요 전제로 제시됐다. 권 전문위원은 “AI 모델 성능은 매년 4배 이상 개선되고 있으며 GPU 성능도 10년 사이 1000배 가까이 향상됐다”며 멀티모달AI, AI 에이전트, 물리 AI 등 흐름이 이미 현실화되고 있다고 설명했다. 하지만 권 위원은 “이러한 기술 변화가 기업 환경에 자동으로 이식되는 것은 아니다”라고 꼬집었다.

문제는 인프라다. 대부분 기업은 AI 기술을 도입하려 할 때 전력 소모와 연산 자원, 냉각 설비, 네트워크 구성 등에서 현실적인 제약을 마주하게 된다. 권 전문위원은 “GPU가 필요하다는 건 다 알지만 실제로는 가격이 높고 전력 소모가 커서 부담이 크다”며 “냉각 시스템을 공냉식에서 수냉식으로 바꾸는 것도 비용과 설계가 따라붙는다”고 말했다.

이어 “아무리 성능이 뛰어난 AI 모델을 도입해도 네트워크 병목 현상이 발생하면 전체 시스템 성능이 제한된다”며 100기가비피에스(Gbps) 이상 네트워크 구성과 컨테이너 기반 확장 구조 설계가 함께 이뤄져야 한다고 설명했다. 특히 설계 단계에서부터 AI 전용 인프라를 고려해야 한다고 짚었다.

데이터 역시 핵심 요소로 꼽았다. 그는 “많은 기업들이 내부 데이터를 이미 보유하고 있지만 다양한 저장소에 흩어져 있어 실질적으로 활용이 어렵다”며 “이를 통합하고 연결해주는 파일 시스템이 필요하다”고 말했다. 사용자는 데이터 위치를 신경 쓰지 않아도 되고 시스템은 이를 효율적으로 조직화할 수 있어야 한다는 설명이다.

성공적인 AI 도입을 위해 권 전문위원은 인프라 구성 방식으로는 하이브리드 전략을 제안했다. 권 전문위원은 “모든 데이터를 내부에 둘 수는 없고, 퍼블릭 클라우드만 쓰는 것도 위험하다”며 “민감정보는 온프레미스에, 일반 데이터는 비식별화해 클라우드에서 처리하는 방식이 현실적”이라고 말했다. 실제로 API 기반 연동과 GPU 자원 분산 활용 등을 통해 이런 방식이 확산되고 있다는 설명이다.

권 전문위원은 세 가지 고객사례를 통해 AI 인프라 단계별 확장 방안을 설명했다. 국내 그룹 계열 SI 기업은 GPU 16~24개와 100테라바이트(TB) 스토리지를 활용해 파일럿 환경을 구축했다. 국내 AI 서비스 기업은 600TB 스토리지와 수십개 GPU를 기반으로 대규모 추론과 모델 테스트를 병행할 수 있도록 설계됐다.

국내 R&D 기업에 구축한 초대형 인프라 사례도 소개됐다. 1.2페타바이트(PB) 스토리지와 수백개 GPU를 활용해 파운데이션 모델 생성까지 가능한 환경을 구현한 사례다. 권 전문위원은 “고객의 규모와 활용 목적에 따라 점진적으로 확장 가능한 유연한 구조를 설계한 것이 핵심”이라고 설명했다.

권 전문위원은 AI 프로젝트가 실효성을 가지려면 세 가지 기본 조건을 갖춰야 한다고 강조했다. 도입 목적과 기대 효과등 요구사항 정의를 명확히 해야 하며, 이를 기반으로 내부 데이터를 정제하고 신뢰할 수 있는 협력사와의 역할 분담도 필요하다고 설명했다. 그는 “무엇을 위해 AI를 도입하는지 분명하지 않으면 시스템만 있고 실질적인 활용은 되지 않는 경우가 많다”며 기술보다 앞서 전략과 준비가 선행돼야 한다는 점을 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -