"AI도 사람이 필요…의사결정 활용 시 감독 필수"

[선데이 모닝 키플랫폼] 인터뷰 - 조 텐서 CNN 인터내셔널 커머셜 시청자 인사이트 디렉터

조 텐서 CNN 인터내셔널 커머셜 시청자 인사이트 디렉터/사진제공=조 텐서 디렉터

가짜 뉴스, 딥페이크 범죄 등 AI(인공지능) 기술이 발달할수록 이로 인한 부작용과 사회 문제도 점차 증가하고 있다. 전문가들은 피해를 최소화하기 위해 AI 서비스를 만들고 제공하는 기업 등 공급자 뿐 아니라 수요자인 소비자들도 보다 현명하게 첨단 기술을 이용할 역량과 윤리 의식을 갖춰야 한다고 강조한다.

머니투데이는 조 텐서 CNN 인터내셔널 커머셜 시청자 인사이트 디렉터와의 인터뷰를 통해 AI를 활용하는 올바른 접근법에 대해 들어봤다.

다음은 일문일답.

-AI를 의사결정에 활용할 때 가장 중요하게 생각해야 할 점은 무엇인가?

▶책임감 있는 사용이다. AI는 놀랍지만 완벽하지는 않다. 의사 결정권자가 정확하지 않은 정보에 기반해 판단하지 않으려면 AI를 책임감 있게 사용해야 한다. AI는 실수를 할 수 있다. 큰 영향이 없는 사소한 오류일 수도 있고, 의도치 않은 편견을 담았거나 청중을 오도하는 방식으로 스토리를 변경하는 등의 중대한 일일 수도 있다. AI를 책임감 있게 사용하면 브랜드가 소비자와 더 가까워지는 데 많은 도움을 받을 수 있다. 대신 의사 결정은 정확하고 신뢰할 수 있는 콘텐츠를 기반으로 이뤄져야 한다.

또 하나는 사람의 감독이다. 우리는 AI가 잘못 판단할 때 이를 인식할 수 있어야 한다. AI는 엄청나게 강력하지만 맥락과 뉘앙스를 이해하는 능력이 부족하다. 사람의 손길이 없다면 편견을 지속하고 잘못된 정보를 사용하는 등의 위험이 있다. 이것이 CNN의 사내 스튜디오인 크리에잇(Create)이 생성형 AI를 사용해 일부 운영 작업을 자동화하면서도 콘텐츠는 사람이 만드는 이유다. AI는 의사 결정을 대체하는 것이 아니라 이를 향상시키고 지원하는 데 사용해야 한다. 본질적으로 사람에게 AI가 필요할 수 있지만 AI에도 사람이 필요하다.

-소비자 관점에서 가장 큰 AI의 효용성은 무엇인가?

▶음악 재생 목록을 큐레이팅 하는 앱부터 문서의 자동완성 기능에 이르기까지 AI는 우리가 깨닫지 못한 채 매일 사용한다.

AI의 효용성을 꼽자면 첫째 실시간 업데이트다. 배송 추적, 최신 뉴스 수신, 슈퍼마켓 매장 위치 확인 등 실시간 업데이트는 게임 체인저 역할을 한 기능이다. AI로 인해 때로는 과도하게 정보를 받기도 하지만 정보를 받는 것이 정보를 쫓아다니는 것보다는 낫다. 그리고 비록 완벽하지는 않고, 항상 필요한 응답만 하는 것은 아니더라도 빠른 응답을 제공하는 챗봇도 좋은 사례다.

둘째는 제품 개발의 배후 역할을 하며, 이 밖에 일상적인 작업의 자동화를 지원한다. AI는 번역 및 필사와 같이 반복적이고 시간이 많이 걸리는 작업을 자동화해 사람들이 좋아하는 작업에 집중할 수 있도록 한다. 이것이 CNN 크리에잇의 철학으로, AI 도구를 사용해 스튜디오를 보다 효율적으로 만들고 크리에이터가 콘텐츠 제작에만 집중할 수 있도록 한다.

-AI가 미디어 환경에 미치는 영향은 무엇인가?

▶AI는 단순한 유행 이상이다. AI는 흥미로울 뿐 아니라 실제 미디어 및 광고 산업에 영향을 미치고 있다. IAB 유럽과 마이크로소프트 애드버타이징의 최근 연구에 따르면 디지털 광고 전문가의 91%가 이미 생성형 AI를 사용하거나 실험하고 있으며 3분의 2 이상이 콘텐츠 제작에 활용하고 있다. 새로운 것들은 늘 그렇듯이 변화에 어려움이 따르는데, AI 도입에 따르는 어려움은 신뢰할 수 있는 출처를 찾는 것이다.

AI가 뉴스의 확산, 자동화, 개인화 등을 점점 담당해 나가고 있지만, 콘텐츠 창작은 여전히 사람들이 주로 맡고 있다. CNN의 예를 들면 저널리즘을 지키는 것과 콘텐츠 창작은 AI의 영향을 받지 않는다. AI는 오히려 제품과 배포를 지원해 사용자들의 더 나은 사용 경험을 지원하고 팀이 작업을 훌륭하게 수행하도록 돕는 데 사용된다.

-AI 도입 등 디지털 전환 과정에서 기업들이 자주 하는 실수는 무엇이 있나?

▶비즈니스 차원에서 있을 수 있는 한 가지 실수는 그저 반짝이고 새롭다는 이유만으로 최신 기술을 도입하는 것이다. 회사가 AI, 블록체인, IoT(사물인터넷)와 같은 큰 디지털 혁신 유행에 얽매여 언제, 어떻게 구현할지에 대한 명확한 계획 없이 이를 도입하는 것은 흔히 벌이는 일 중 하나다. 하지만 디지털 혁신을 위해서는 반드시 비즈니스 요구 사항을 파악하고 가치를 더할 기술을 도입해야 한다. 이미 잘 작동하는 시스템을 자동화하기 위해 AI에 막대한 투자를 할 필요는 없다.

또 다른 실수는 디지털 혁신을 더 광범위한 비즈니스 목표와 일치시키는 것이 아니라 고립된 IT 프로젝트로 취급하는 것이다. 디지털 혁신은 비즈니스 전반에 걸쳐 스며든다. 이는 단순히 기술 업그레이드에 관한 것이 아니라 직원에서 소비자, 공급업체에 이르기까지 비즈니스와 접촉하는 모든 사람에게 영향을 미칠 수 있는 중요한 과제이며 대체로 상당한 시간과 비용 투자가 필요하다.

-AI 시대 사이버 보안 등 잠재적 위험 요인에 대해서는 어떻게 대응해야 하나?

▶자체 조사에 따르면 기업들은 사이버 보안 계획을 통해 잠재적 위험에 대응하고 있으며 10명 중 8명의 기업 의사 결정권자가 사이버 보안을 최우선 사업 과제로 꼽았다. 사이버 보안은 단순한 IT 문제에서 전반적인 사업 전략의 핵심 구성 요소로 옮겨갔다. 사고는 단순히 운영상 골치 아픈 문제나 재정적 손실 이상의 문제이며, 회복하기 어려울 수 있는 소비자 신뢰 훼손을 야기할 수 있다. 사이버 보안은 구현되는 새로운 기술과 함께 발전해야 한다. 단 한 번으로 끝나는 시나리오가 아니며, 사후에 생각해 낼 수 있는 시나리오도 아니다.

소비자의 경우 데이터를 어디에 어떻게 저장하는지에 대해 경계해야 한다고 생각한다. 모든 것이 더욱 정교해짐에 따라 까다로울 수 있다. 개인적으로도 강력한 비밀번호를 만들고 2단계 인증을 구현하려고 노력한다. 사이버 위협을 완전히 피할 수는 없지만 데이터를 보호하기 위해 취하는 실질적인 조치를 해야 한다.

김상희 기자 ksh15@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지