“그린옵스(GreenOps)”가 등장한 이유는 기업이 갑자기 도덕적 각성을 했기 때문이 아니다. 클라우드 요금 부담이 커지고 규제 당국이 강하게 나오면서 지속가능성 담당부서가 IT 부서에 어려운 질문을 던지기 시작했다. 클라우드 사용량이 기술적 관심사일 뿐 아니라 재무와 평판 측면에서도 위험이라는 사실을 깨닫자 기업이 늘 하던 방식으로 대응했다. 바로 이 문제를 또 하나의 운영 환경으로 만든 것이다.
초기 그린옵스는 대부분 ‘더 친환경적’이라는 배지를 단 핀옵스(FinOps)에 가까웠다. 낭비를 줄이고 인스턴스 크기를 적정화하고 유휴 리소스를 종료하고 좀비 스토리지를 정리하고 데이터 전송을 최적화하는 방식이다. 이런 조치는 분명 도움이 되고, 많은 팀이 에너지와 배출량을 엔지니어링 의사결정의 가시적 요소로 만들면서 실질적 개선을 이끌어냈다. 혁신의 핵심은 새 기술을 도입한 것이 아니라 “효율적으로 일을 하는 방식”을 반복 가능하게 만드는 새 운영 모델을 채택한 데 있었다.
그린옵스가 중요한 이유는 클라우드가 뒷감당이 필요 없는 마법이 아니라는 사실을 기업이 직시하도록 만들기 때문이다. 모든 워크로드는 물리 연산 자원, 전력, 냉각, 건물로 이어진다. 그린옵스가 건강하게 작동하면 구호가 아니라 측정 가능한 성과를 중심으로 아키텍처, 조달, 제품 의사결정을 정렬하는 거버넌스 계층이 된다.
AI가 바꾸는 지속가능성의 계산법
그리고 AI가 등장했다. AI는 군비 경쟁으로 변했다. 애플리케이션을 클라우드로 옮기는 일과 경쟁을 위해 기업이 원하는 규모의 AI 역량을 구축하는 일의 차이는 집을 리모델링하는 것과 새 도시를 짓기 위해 콘크리트를 붓는 것의 차이에 가깝다. 현대 AI는 특히 기업이 경쟁하기 위해 원하는 규모에서는 고밀도 연산, 고속 네트워크, 가속 하드웨어, 24시간 가동 용량을 요구한다. AI 워크로드는 비쌀 뿐 아니라 많은 전통적 엔터프라이즈 워크로드보다 단위 시간당 더 많은 전력을 쓰도록 구조적으로 설계돼 있다.
여기에 촉진제가 더해진다. 클라우드 기반 AI 서비스다. 하이퍼스케일러는 신용카드와 API 호출만으로 극한의 연산 자원을 빌릴 수 있게 만들었다. 이 편의성은 혁신의 판도를 바꾸는 것이지만, 한편으로는 하드웨어를 조달해야 한다는 제약 대신 얼마나 빨리 확장할 수 있는지가 관건이 된다는 의미이기도 하다. 확장이 목표가 되면 에너지 집약도는 부작용이 된다.
시장 반응은 눈에 띈다. 데이터센터 건설이 폭발적으로 늘고 있다. 기업이 갑자기 시설을 짓는 일을 좋아하게 된 것이 아니라, AI가 요구하는 물리적 기반을 구축하려고 생태계 전체가 경쟁하고 있기 때문이다. 새 부지, 증설, 전력 구매 계약 협상, 전력망 연계, 비상 발전, 액체 냉각 개조 같은 덜 화려한 디지털 전환의 요소가 주인공이 되고 있다.
그린옵스는 최적화가 성장 속도를 따라갈 수 있는 세계에서 점진적 효율을 위해 설계됐다. AI는 그 가정을 깨뜨린다. 클라우드 인스턴스를 하루 종일 최적화해도 AI 사용량이 10배로 늘면 효율 개선은 사용량 증가에 삼켜진다. 이는 전형적인 리바운드 효과(Rebound Effect)다. AI가 더 쉬워지고 더 가치 있어지면 AI 사용량이 늘고, 총소비는 상승한다.
그린옵스의 이야기
이 지점부터 그린옵스 메시지는 오락가락하기 시작한다. 많은 기업이 지난 몇 년간 친환경성을 홍보해 왔다. 탄소 중립 약속, 재생 에너지 주장, 번쩍이는 차트가 들어간 지속가능성 보고서, PR 조직이 다듬은 “헌신하고 있다”는 문구가 대표적이다. 일부는 진정성이 있고 실질적 진전을 반영하지만, 점점 더 많은 부분이 선택적 회계와 편리한 모호함의 결합으로 보인다.
모순은 보도자료가 아니라 계획 회의에서 드러난다. 기업은 지속가능성 리더십을 선언하면서도 연산, 스토리지, 네트워킹, 상시 가동 AI 서비스에 훨씬 더 많은 예산을 편성한다. 기업은 이해관계자에게 “환경 발자국을 줄이고 있다”라고 말하면서, 내부 팀에는 “모든 것을 계측하고 모든 것을 벡터화하고 모든 곳에 코파일럿을 붙이고, 맞춤 모델을 학습하고, 뒤처지지 말라”라고 요구한다.
이런 상황은 위선이자 거버넌스의 실패다. 대부분 기업은 지속가능성을 여전히 보고 기능으로 취급하고, AI는 전략적 필수 과제로 취급한다. 우선순위가 충돌하면 매번 AI가 조용히, 자동으로 이긴다. 성장과 속도에 대한 인센티브는 맞물려 있지만, 에너지 사용, 물 사용, 전력망 부담이라는 장기적 외부효과에 대한 인센티브는 부족하기 때문이다.
더구나 그린옵스의 정의는 유동적이다. ‘재생 에너지로 운영’은 상쇄를 의미할 수 있다. ‘탄소 중립’은 공급망 일부를 제외하는 회계 상의 경계를 의미할 수 있다. ‘효율적’은 총 거래량이 폭증하는 상황에서 거래당 개선을 의미할 수 있다. 반면 물리적 현실은 그대로다. AI 사용량이 늘면 일반적으로 데이터센터 수요가 늘어난다. 데이터센터 수요가 늘면 설득력 있는 지속가능성 서사가 아무리 그럴듯해도 통상 에너지 사용이 늘어난다.
AI의 가치와 탄소 현실
첫째, 기업은 탄소를 사후 보고가 아니라 핵심 아키텍처 제약 조건으로 다뤄야 한다. 기업은 지연시간, 가용성, 비용 예산을 두듯 제품과 플랫폼 수준에서 배출량 또는 에너지 예산을 명시적으로 설정해야 한다. 새 AI 기능이 연산 자원을 5배 요구한다면, 그저 출시하고 축하하는 방식으로 의사결정이 이뤄져서는 안된다. 기업은 운영·환경 비용을 감당하고 공개적으로 수용할 의지가 있는지 검토해야 한다. 여기에는 “뉴스에서 읽고 싶지 않은 일은 하지 말라”는 옛 격언도 적용되는데, 지속가능성 관점에서 해당 기능이 얼마나 큰 비용을 유발하는지는 결국 외부에 알려질 것이기 때문이다.
둘째, 기업은 AI 측정 방식을 바꿔야 한다. 모델 품질만으로는 KPI가 완전해지지 않는다. 질문은 “더 정확한가”만이 아니라 “성과 대비 탄소를 반영한 가치가 무엇인가”여야 한다. 실무에서는 이런 관점이 혁신을 죽이지 않으면서 낭비를 줄이는 기법과 선택을 의미한다. 몇 가지 아이디어가 있다:
- - 효과가 충분하면 더 작은 모델을 선택한다.
- - 반복 생성 대신 검색과 캐싱을 활용한다.
- - 오버프로비저닝을 피하도록 추론을 튜닝한다.
- - 전력망 탄소 집약도가 낮은 시간대로 긴급하지 않은 학습을 예약한다.
- - 항상 최고 용량으로 돌리기보다 단계적 성능 저하를 전제로 시스템을 설계한다.
이런 방법은 AI 도입을 막지 않으며, 책임 있는 도입을 강제한다.
셋째, 기업은 희망이 아니라 조달과 거버넌스를 통해 클라우드 AI 서비스와의 관계를 재협상해야 한다. 일반 클라우드 연산 자원을 구매하는 방식으로 AI 서비스를 구매하면, 보기 좋은 대시보드와 함께 통제 불능의 사용량 증가를 맞게 된다. 조달 부서는 에너지·배출 계수, 지역별 집약도, 그리고 AI 사용량의 상한을 설정하고 통제하고 예측할 수 있는 서비스 수준 제어를 투명하게 보고하도록 요구해야 한다. 거버넌스 조직은 새 AI 이니셔티브가 ROI뿐 아니라 예상 에너지·탄소 영향을 정당화하도록 요구하고, 예측이 빗나갈 때 책임 소재도 명확히 지정해야 한다. 이런 지렛대가 없으면 지속가능성 부서는 환경 발자국이 커지는 상황에서 관찰자에 머물게 된다.
AI 시대의 그린옵스
그린옵스는 죽지 않았지만, 원래의 플레이북에 없던 AI 수요로 스트레스 테스트를 받고 있다. 소비 곡선이 수직이라면 최적화만으로는 버틸 수 없다. 친환경성을 브랜드 속성으로만 다루기보다, 성공하는 기업은 특히 AI 영역에서 그린옵스를 엔지니어링·거버넌스 규율로 인식할 것이며, 편의성과 규모는 탄소 발자국을 은밀하게 늘릴 수 있기 때문이다.
결국 질문은 기업이 AI를 써야 하느냐가 아니다. 기업은 AI를 쓰게 된다. 핵심은 지속가능성 스토리가 연산 자원 증가의 무게에 무너지기 전에 기업이 탄소 인지 아키텍처, 탄소를 반영한 KPI, 집행 가능한 거버넌스를 갖춘 ‘근육’을 만들 수 있느냐에 있다.
dl-itworldkorea@foundryco.com
David Linthicum editor@itworld.co.kr
저작권자 Foundry & ITWorld, 무단 전재 및 재배포 금지
이 기사의 카테고리는 언론사의 분류를 따릅니다.