AI PC 쓰면 챗GPT가 더 좋은 답 내놓을까? [AI PC 어디까지 왔나①]

최호섭 디지털 컬럼리스트. 사진=최호섭

[최호섭 편집위원] [디지털포스트(PC사랑)=최호섭 편집위원] PC 시장에서 AI PC에 대한 관심이 커지고 있다. 인공지능이 컴퓨팅의 중심이 되면서 PC의 광고도 AI를 앞세우고 있고, 챗GPT를 비롯한 생성형 AI를 일상에 활용하면서 더 나은 인공지능 경험에 대한 요구도 늘어나면서 '더 인공지능에 최적화된 컴퓨터'가 새로운 시장의 가능성으로 떠오르는 것이다.

PC 업계도 앞다투어 AI PC를 내놓고 있고, 마이크로소프트는 일정 수준 이상으로 인공지능을 다룰 수 있는 PC에는 '코파일럿 PC'라는 인증을 통해 차별화를 만들어낸다. 인텔과 AMD 등 핵심 프로세서 기업들도 AI를 다루는 프로세서를 내놓고 차세대 컴퓨팅의 중심이 AI에 있다는 것을 강조한다.

실제로 앞으로의 PC 시장에 대한 전망에 인공지능은 빠질 수 없는 키워드이고, 시장 조사 기관들 역시 입을 모아 AI PC가 업계의 중심이 될 것으로 기대하고 있다. 가트너는 윈도우 11의 AI 기능을 바탕으로 AI PC의 비즈니스 가치가 높아질 것으로 전망하고, 2025년 공급되는 전체 PC 10대 중 4대가 AI PC가 될 것이라고 내다 봤다.

'생성형 AI 없이는 하루도 일 할 수 없다'는 이야기가 나올 만큼 인공지능의 역할은 점점 더 커지고 있고, 업무부터 학습까지 모든 컴퓨팅의 중심이자 근본인 PC에 대한 인공지능 수요는 더욱 늘어날 것이다. 아직까지는 클라우드에 의존하는 경우가 많지만 AI PC의 등장을 계기로 PC도 더 적극적으로 인공지능에 대한 역할들을 해낸다는 것은 의심할 여지가 없다.

하지만 동시에 그만큼 낯선 것이 AI PC이기도 하다. 넓고 넓은 인공지능과 관련된 모든 일들을 다 처리하는 PC일까? AI PC를 쓰면 챗GPT가 더 좋은 답을 내놓을까? 사실 이 두 가지 질문에 대한 답은 'No!'다. 과연 AI PC는 왜 태어났고, 어떤 일을 하게 될까?

마이크로소프트 코파일럿 PC. 사진=마이크로소프트

#아직은 느슨한 PC와 AI의 연결고리

2025년 2월, 중국에서 개발한 대규모 언어 모델 '딥시크(DeepSeek)'가 온 세상을 흔들어 놓았다. 딥시크는 오픈AI의 '챗GPT'나 구글의 '제미나이(Gemini)'와 비슷한 대화형 언어 인공지능이다. 이 언어 모델은 언어를 만들어내는 능력 뿐 아니라 기존 정보들을 바탕으로 문제를 해결해 내는 추론 능력까지 보여주면서 전 세계 인공지능 업계에 커다란 충격을 주었다.

특히 딥시크는 모델의 효율성을 높여서 비교적 낮은 컴퓨팅 파워로 대규모 언어 데이터를 학습했고, 추론에 대해서도 기존 서비스들에 비해 더 적은 자원으로 처리한다는 점으로 큰 주목을 받았다. 인공지능은 그 효과에 비례해 너무 많은 GPU 컴퓨팅이 요구되고, 그에 따라 전력 소비량도 높아지면서 환경적인 측면에 대한 고민이 이어지고 있다. 이런 상황에서 더 적은 컴퓨팅 성능으로 일정 수준의 결과물을 내어 준다면 그 자체로 주목할 만한 기술적 혁신이 될 수 있다.

딥시크 CI

하지만 딥시크는 이런 기대 만큼이나 많은 우려도 뒤따랐다. 특히 개인정보에 대한 부분이다. 중국의 스타트업이 이렇게 빠르게 높은 수준의 모델을 만들 수 있던 것은 데이터 학습에 대한 규제나 정제 없이 자유롭게 모든 정보를 학습한 것 아니냐는 것이다. 이를 확인할 수는 없지만 이용자들이 딥시크에 입력하는 정보가 다시 모델에 어떻게 학습될 지는 알기 어렵다. 이 때문에 현재 많은 기업들이 보안을 이유로 딥시크의 이용을 금지하고 있다.

개인 이용자로서도 안전하게 딥시크를 쓰기 위해 이 모델을 클라우드가 아니라 스스로의 PC에 설치해서 쓰는 경우가 많다. 딥시크는 애초 AI 모델을 오픈소스로 공개해서 누구나 이를 자유롭게 활용할 수 있도록 했다. 크기가 작은 모델은 노트북에서도 오프라인으로 작동한다.

우리가 AI PC에 기대하는 것도 이 딥시크의 활용과 관련이 있다. 인공지능 모델은 많은 데이터를 학습할수록 더 나은 결과를 낼 수 있다. 이용자들은 이 생성형 AI 모델들의 유용성에 공감하지만 다른 한 편으로는 직접 입력하는 정보들이 각 AI 모델에 다시 학습되는 것은 원치 않는다. 기업들은 이에 격리된 별도의 테넌트를 통해서 인공지능 서비스를 이용하곤 한다. 범용 모델 대신 안전한 영역 안에서만 정보를 학습해서 서비스를 이용하고자 하는 것이다. 이런 개인화는 자연스러운 흐름이다. 하지만 가장 안전한 방법은 스스로 관리할 수 있는 시스템 안에서 활용되는 것이다.

챗GPT4o. 사진=오픈AI

#인공지능의 개인화, 소형화에 대한 요구

AI PC의 방향성도 길게 보면 결국 민감한 정보가 담기는 개인용, 업무용 기기의 데이터를 클라우드 없이 처리하는 데에 있다. 통제되는 기기에서 안전하게 데이터를 처리하면서 불안감 없이 더 많은 인공지능 서비스를 이용하고, 그 신뢰를 바탕으로 더 많은 민감 정보를 학습시켜서 더 나은 결과를 얻어내는 것이 가장 안전한 개인화의 방법이기 때문이다.

이와 함께 안정적인 자원 활용에 대한 부분도 무시할 수 없다. 얼마 전 챗GPT에 사진을 올리고 유명 애니메이션 분위기의 그림을 만들어내는 것이 유행했다. 결과물에 대한 만족도가 높아지고, 입소문이 나기 시작하면서 이용자가 몰리기 시작했고, 급기야 현재 챗GPT의 이미지 생성은 엄청난 시간이 걸리는 상황이 됐다. 오픈AI도 이미지 생성에 대한 부담을 털어놓기도 했다. 클라우드를 통한 생성형 AI는 이용자 입장에서 보면 간편하고, 어떤 기기든 접속 계정에 따라 연동되는 편리함이 있긴 하지만 이를 받아들이는 서비스 입장에서는 상당한 부담이 될 수밖에 없다.

게다가 현재 챗GPT나 제미나이 등은 아직도 학습과 추론이 다양한 방법으로 이뤄지는 중이고, 경쟁도 심해지기 때문에 가장 좋은 모델을 제공하게 된다. 간단한 일에도 막대한 GPU 사용량으로 최선을 다해서 답을 만들어내는 것이다. 현재 오픈AI의 경우 엔비디아의 A100, H100 등 고성능 GPU 수 만 대를 통해 수 천 억 개 수준의 파라미터로 구성된 모델을 학습, 운영하고 있다.

샘 올트먼 오픈AI 대표. 사진=위키미디어

정확한 수치가 공개된 것은 아니지만 여러가지 추정 자료를 통해서 보면 GPT-4의 경우 한 번 대화를 주고 받으면 1~2Wh 정도의 전력을 소비하는 것으로 알려졌다. 일반적인 스마트폰의 배터리를 가득 충전할 때 필요한 전력 소비량이 20~25Wh인 것을 생각하면 AI의 전력 소비량은 만만치 않은 상황이다. 샘 올트먼 오픈AI CEO는 사람들이 챗GPT에게 '고맙다'는 말을 듣고 그에 대응하는 것만으로 수 천 만 달러의 비용이 나온다고 밝힌 바 있다.

이렇게 막대한 모델이 필요한 경우도 있지만 적절한 크기와 특정 용도로 범위를 최적화한 모델을 통해 적은 전력으로 운영하는 것이 다음 단계의 AI 기술로 꼽힌다. 만족할 수준의 작은 모델이 완성된다면 이를 개개인의 업무용 PC에 설치하는 것이 충분히 가능해진다. 필요한 만큼의 PC 성능을 확보하면 네트워크나 클라우드 서비스의 안정성과 관계 없이 언제든 원하는 만큼의 결과물을 만들어낼 수 있다.

장기적으로는 거대한 모델을 클라우드로 이용하면서도 보안을 위한 사내 AI, 그리고 개인 PC의 AI가 하이브리드 형태로 공존하면서 고도화하는 것이 현재 생성형 AI에 대한 부담을 덜어낼 수 있는 방법으로 꼽힌다.

NPU. 사진=마이크로소프트

#AI PC의 역할, 생성형 AI보다 개인화

그렇다면 AI PC는 이 생성형 AI를 엄청난 성능과 효율로 처리해서 더 나은 경험을 만들어줄까? 아쉽게도 현재 AI PC는 이런 기대와는 달리 생성형 AI를 운영하는 데에 거의 영향을 끼치지 못한다. 지금 시장에서 판매되는 AI PC, 특히 마이크로소프트의 인증을 마친 코파일럿+PC에는 루나레이크로 불리는 인텔의 '코어 울트라 2세대 프로세서'와 AMD의 코드명 스트릭레이크, '라이젠 AI 300 프로세서'가 들어간다.

이 AI PC들도 앞서 언급한 딥시크나 스테이블 디퓨전 등 생성형 AI를 PC에 직접 깔아 운영할 때는 GPU를 이용한다. AI PC용 프로세서는 대체로 CPU와 GPU를 품고 있고, 여기에 AI를 위한 뉴럴 프로세서, NPU가 더해지는 통합형 구조를 갖는다. 이 작은 NPU 코어는 정수 연산과 행렬 처리에 최적화되어 있어서 간단한 AI의 요구 사항을 빠르게 처리한다.

대신 단어들 사이의 연관성을 미세하게 벡터화 해야 하는 생성형 AI의 작업들에는 적절하지 않기 때문에 실제로 AI PC의 테스트에서는 원하는 모델을 자유롭게 활용하기 어렵다. 아직까지 이 뉴럴 엔진의 역할은 생성형 AI처럼 복잡한 처리보다는 기기 활용 습관에 대한 학습이나 주변 오디오 소음 제거, 영상 필터 등 미리 준비된 특정 모델을 처리하는 데에 쓰이는 정도다. 코파일럿 PC라고 해도 아직까지는 윈도우나 오파스의 생성형 AI 기반 코파일럿 서비스를 뉴럴 엔진으로 처리하는 경우는 거의 없다.

하지만 마이크로소프트와 프로세서 제조사들은 API를 통해 인증된 앱들에게 뉴럴 엔진에 쉽게 접근할 수 있는 API를 제공하고 있어서 점차 그 활용도를 높여갈 계획이다. 다만 생성형 AI와 운영체제가 활용하는 AI를 명확히 구분해서 바라볼 필요가 있다.

이 두 가지 큰 갈래는 똑같이 '인공지능'이라는 이름으로 포장되지만 만들고 운영하는 모든 과정은 전혀 다르다. 당연히 이를 구분할 필요가 있다. 하지만 많은 기업들이 'AI'라는 한 단어로 뭉뚱그려 표현하다 보니 소비자들에게 '모든 AI 처리에서 이전 PC와 다른 경험을 줄 것'이라즌 착각을 일으킬 수 있다. PC 제조사도, 프로세서 개발사도, 그리고 마이크로소프트도 이를 명확하게 구분할 필요가 있다.

#개인정보에서 시작한 모바일의 인공지능 접근

모바일 시장은 이용자를 이해하는 인공지능과 정보를 제공하는 인공지능에 대한 구분이 비교적 잘 이뤄져 있다. 애플과 구글은 뉴럴 프로세서를 비롯해 프로세서에 인공지능을 결합하는 노력을 일찍부터 이어 왔다. 스마트폰 운영체제는 일찍부터 개인화에 초점이 맞춰져 있었기 때문이다. 모든 정보들을 예민하게 해석하고 서로간의 연결고리를 찾아내는 것이 스마트폰의 지능화였다.

반복되는 직장인들의 생활 패턴을 예로 들 수 있다. 아침마다 비슷한 시간대에 어떤 역에서 지하철을 타고 어디로 이동하는지 스마트폰은 정확하게 알고 있다. 지하철에서 내릴 때 즈음 카페 앱을 열고 커피를 주문하는 일이 반복되는 게 우리의 일상이고 스마트폰 OS는 이 역시 중요한 정보로 인지하게 된다. 시간과 장소, 그리고 행동에 대한 판단에 확신이 서면 스마트폰은 지하철 역에 내려서 커피숍에 도착하는 시간을 역으로 계산해서 미리 알림으로 '지금 따뜻한 카페라떼를 미리 주문해 둘까요?'라고 물을 수 있다.

이런 행동을 읽어내는 인공지능은 지난 10여년 간 IT 업계의 가장 중요한 화두였다. 자동차의 운영체제는 운전자가 집에 들어가고 있다는 것을 파악하면 집에 에어컨을 미리 켜 쾌적한 공기를 만들고, 주차장에 접어드는 순간 집에 전등을 켜도록 한다. 음식 메뉴를 검색하면 냉장고는 보관중인 식재료를 읽어 조리법을 제안해주고, 부족한 것은 직접 배달 주문을 한다. 이처럼 갖고 있는 정보를 통해 이용자의 습관을 이해하고 고도화하는 것이 가전의 고도화의 큰 흐름이었다.

스마트폰은 이 모든 정보를 포괄하는 기기였고, 스마트폰 OS들은 더 많은 기기와 연결되면서 그동안 무심코 흘려버리는 정보들을 더 많이 수집해 왔다. 그리고 이를 더 빠르고 민감하게 처리하기 위해 인공지능 처리 엔진을 프로세서에 통합하고 그 처리량을 끌어올리는 방향으로 성장을 이어 왔다.

애플의 뉴럴엔진 M4. 사진=애플

그 시작은 2017년 아이폰 X과 함께 발표된 애플의 'A11 바이오닉' 프로세서다. 애플이 이 칩의 수식어로 붙이 '바이오닉(Bionic)'이라는 단어는 결국 뉴럴 프로세서를 통해 이용자를 더 깊이 이해하고 빠르게 상호 작용할 수 있도록 하겠다는 의도로 읽힌다. 애플은 그 전부터 개인정보를 기기 내부에서 학습하기 시작했는데, 이 분석을 실시간에 가깝게 처리하고, 또 빠른 속도가 필요한 모델들이 늘어나면서 전용 프로세서를 도입하기 시작한 것이다.

구글 역시 2017년부터 안드로이드에 머신러닝 모델을 쉽게 돌릴 수 있는 소프트웨어 프레임워크를 만들었고, 안드로이드 생태계에도 뉴럴 프로세서가 등장하게 된다. 구글도 인공지능을 중심에 두면서 운영체제가 직접 다룰 수 있는 뉴럴 프로세서가 필요했고, 이 때문에 2019년에는 '픽셀 4' 스마트폰에 '픽셀 뉴럴 코어'를 심었다. 이후 구글은 2021년 '픽셀 6' 스마트폰과 함께 직접 프로세서 설계에 뛰어 들었고, 이렇게 등장한 '텐서 프로세서'부터 구글의 픽셀 스마트폰은 자체 NPU를 품게 된다.

스마트폰 프로세서 시장을 주도하는 퀄컴 역시 오랫동안 인공지능 기술을 눈여겨 보고 있었다. 2013년에는 '제로스(Zeroth)'라는 이름으로 NPU에 대한 가능성을 검토하기 시작했고, GPU를 통한 인공지능 처리에 대한 최적화도 이어 왔다. 그리고 2018년부터 'AI 엔진'이라는 이름으로 독립형 NPU 코어가 스냅드래곤 프로세서에 통합된다.

이렇게 모바일의 인공지능 환경이 갖춰지면서 실시간 번역, 이미지 편집, 카메라 촬영 등 많은 부분에 AI 기술이 더해졌고, 모바일 업계는 이를 '온 디바이스 AI(On device AI)'라는 개념으로 알리기 시작했다. 현재는 너무나도 당연하게 스마트폰의 인공지능이 활용되고 있고, 스마트폰은 매년 우리의 개인정보와 적절한 처리 능력을 키워가며 우리의 '습관'과 '일상'에 점점 더 깊이 관여하고 있다.

사실상 현재의 AI PC, 혹은 코파일럿 PC도 이 단계에 접어들고 있다고 보는 편이 옳다. 마이크로소프트의 코파일럿이라는 브랜드와 PC의 고성능 이미지가 더해지면서 이 PC를 통해 당장 이전의 컴퓨터와 전혀 다른 PC 경험이 다가온다고 확신하기는 아직 어려운 단계인 셈이다.

코파일럿 PC 소개. 사진=마이크로소프트

#명확한 PC의 갈 길, 그리고 윈도우의 접근 방식

하지만 AI PC에 대한 가능성은 당연히 높을 수밖에 없다. 포괄적인 의미의 인공지능 기술들이 PC에서 할 일들이 너무나도 많기 때문이다. 당장의 관심거리인 생성형 AI의 처리는 물론이고, PC의 역할이 업무 환경과 밀접하게 연결되기 때문이다.

마이크로소프트는 2018년, 윈도우10의 업데이트를 통해 운영체제의 AI 도입을 언급하기 시작했다. 업무에 썼던 응용프로그램을 비롯해 작업에 활용했던 문서 파일, 열어본 웹사이트를 기억해 패턴화하고, 더 나아가 자주 협업하고 소통하는 사람들과의 관계를 바탕으로 다양한 제안을 해 주기 시작했다.

이후 윈도우11이 등장하면서 윈도우의 모든 활동들에 대해 이용 기록, 로그, 스크린 캡처 등 다양한 접근을 통해 PC 활용 패턴을 읽고, 반복되는 일들을 자동화할 수 있는 '리콜(Recall)'이 그 모습을 가다듬어 가고 있다. 사실상 이 리콜 기능이 코파일럿 PC의 차별점을 만들어낼 지점으로 꼽히고 있지만 개인정보와 사생활 보호 측면에서 합의를 만들어가는 중이다.

PC의 활용 패턴을 읽는 것은 오래 전부터 스마트폰이 해 오던 개인정보의 접근과 비슷하다고 볼 수 있다. 다만 모바일 업계는 이를 아주 보수적으로 천천히 접근해 오면서 이용자들이 불편을 느끼지 않는 수준에서 서서히 더 많은 정보를 꺼내도록 했고, 그 과정에서 아직 무르익지 않은 뉴럴 프로세서의 기술적인 요구사항들도 갖춰 왔다고 볼 수 있다.

윈도우11은 그동안의 PC용 AI의 공백을 메워야 할 필요가 있었고, 이를 위한 접근으로 '코파일럿 PC'라는 접근을 시도하는 중이다. 익숙한 것 같지만 이제까지 없었던 개념이고, 무엇을 해야 하는지, 이용자들이 무엇을 원하는지에 대한 답도 아직은 명확하지 않은 단계다.

장기적으로는 현재 PC 환경에서 더 유리한 생성형 AI부터 개인정보를 안전하게 지키는 행동 분석이 자연스럽게 통합되면서 안전하고 쾌적한 인공지능 플랫폼으로 진화하는 것이 AI PC의 미래가 될 것이다. 다만 기술 그 자체만큼이나 그 기술들의 역할과 목적, 그리고 개인정보에 대한 접근에 대한 공감대를 놓쳐서는 안 될 것이다.

<저작권자 Copyright ⓒ 디지털포스트(PC사랑) 무단전재 및 재배포 금지>