[김현아의 IT세상읽기]AI시대 가짜뉴스의 명과 암

[이데일리 김현아 기자]스스로 판단하는 인공지능(AI) 시대가 열리면서 ‘가짜뉴스’에 대한 우려도 커지고 있습니다.

워낙 기술이 발전한 덕분인데, 누군가 나쁜 마음을 먹는다면 실제로는 일어나지 않은 일을 마치 발생한 사건처럼 보여줄 수 있기 때문입니다.

▲여성 얼굴에 안경을 씌우면 헐리우드 배우 러셀 크로우 얼굴로 변한다. 출처: 이형동 삼성리서치 랩장(상무)

위 사진을 보시죠. 지난 8일 과학기술정보통신부가 주최한 ‘글로벌 ICT 표준 리더스 그룹 출범식 및 워크숍’에서 이형동 삼성리서치 랩장(상무)가 ‘멀티 디바이스를 통한 생활속 AI’에 대해 발표하면서 청중들에게 보여준 사진입니다.

‘적대적 생성 네트워크(Generative Adversarial Networks·GAN)’라는 인공지능 기술을 설명한 것이죠. GAN은 한쪽 인공지능은 수많은 사람 사진을 학습해 새로운 전신 모델을 만들어내고, 또 다른 쪽은 그 모델이 사람과 다른 점을 찾아내 이를 반복하면서 사람과 비슷한 가공의 인물을 창조한다고 합니다.

그런데 이 과정에서 사람의 얼굴에 안경을 씌우면 헐리우드 배우 러셀 크로우로 얼굴을 바꿀 수 있다고 합니다.

이 상무는 “최근의 딥러닝의 특징은 설명하기 어렵다는 것도 있지만 강력한 인식 기능만큼 잘 뚫리는 특징도 있다”며 “합성이 많이 쉬워졌다. 복원(inpaint) 기술로 오바마 대통령이 말하지 않을 걸 마치 말한 듯이 가짜뉴스로 바꿀 수 있다”고 했습니다.

그래서 삼성은 물론, 구글이나 마이크로소프트(MS) 등 인공지능에 집중투자하는 회사들은 앞다퉈 신뢰성과 개인정보보호(프라이버시)를 강조하고 있습니다.

신뢰성은 인공지능이 현실 세계를 혼란에 빠뜨리지 않게 하는 것이고, 프라이버시는 내가 원하지 않는 내 흔적은 인공지능이 함부로 사용하지 않도록 하는 일일 겁니다.

피차이 구글 CEO는 지난 7일 뉴욕타임스 기고문에서 “구글은 모든 사용자의 개인정보 보호 및 보안을 매우 중요하게 생각하고 있다. 모든 사용자가 자신의 데이터와 관련해 명확하고 의미 있는 선택을 내릴 수 있도록 노력해 나갈 것”이라고 적었습니다.

▲최근 미국 시애틀에서 열린 개발자 컨퍼런스 빌드 행사에서 마이크로소프트의 철학을 설명하는 사티아 나델라 MS CEO. (출처: MS 네이버 포스트)

사티아 나델라 마이크로소프트 CEO도 지난 6일 시애틀에서 열린 개발자 컨퍼런스인 빌드 행사에서 “프라이버시는 곧 인권이다. 우리의 핵심 가치는 신뢰다”라고 강조했죠.

모든 기업이 소프트웨어로 동작하는 시대가 될 텐데, 인공지능이 학습하는 데이터나 알고리즘이 얼마나 투명하게 적용되고 신뢰할만한 것인지에 따라 서비스에 대한 신뢰 역시 달라지기 때문입니다.

▲마크 저커버그 페이스북 CEO. (사진=AFP)

그런데, 인공지능이 고도화되면 가짜뉴스가 더 실감나게 제공되기만 할까요. 꼭 그렇지는 않을 듯합니다.

인공지능으로 영상을 조작할 수 있다면 인공지능으로 걸러내는 일도 가능하기 때문입니다. 마치 해커와 보안 업체의 싸움이라고 할까요.

지난 5일, 페이스북은 이달 말로 예정된 유럽 의회 선거를 앞두고 사이트 규정을 위반하는 가짜뉴스나 이를 생산하는 가짜 계정 등을 감시하는 운영실을 만들었다고 합니다.

가디언에 따르면, 유럽 선거 대비 페이스북 가짜뉴스 워룸은 24개 공식 EU 언어를 모국어로 사용하는 40여 명이 배치되며, 이들은 페이스북 내 사용자가 올린 게시물을 확인하고 제거 여부를 검토하고 권고하게 된다고 합니다. 가짜 뉴스 공격자가 그들의 AI를 통해 시스템을 조작하는 것을 막고 그들의 계정을 신속하게 제거하겠다는 거죠.

아직 사람의 손을 거치지 않아도 되는, 가짜뉴스를 잡는 인공지능 서비스가 상용화됐다는 얘기는 들어보지 못했습니다.

다만, 뉴스 소비가 개인화될수록, 컴퓨터가 사람의 눈처럼 보고 인지하고 이해할 수 있는 컴퓨터 비전 기술이 발전할수록 가짜뉴스 우려도 커질 것이고, 이에 맞서는 IT 업계의 가짜뉴스 추적·차단 기술도 고도화될 것으로 기대합니다.