“챗GPT, 사람들의 관점 조작할 수 있어”

‘만리방화벽’ 설계자 팡빙싱 경고… 中 검열 시스템 만든 과학자

중국의 인터넷 검열 시스템 ‘만리방화벽(Great Firewall)’의 설계자라 불리는 컴퓨터 과학자 팡빙싱(Fang Binxing·63)이 챗GPT 같은 생성형 AI 서비스의 위험성을 경고하고 나섰다.

20일 홍콩 일간 사우스차이나모닝포스트(SCMP)에 따르면 팡빙싱은 지난 16일 중국 홍성신문과 인터뷰에서 “챗GPT 같은 서비스는 모든 것에 대한 답을 제공할 수 있기 때문에 전 세계 정부들에 큰 도전이 될 것”이라고 말했다. 이어 그는 “사람들이 온갖 종류의 답을 AI로부터 구하면서 이들의 관점은 조작될 것”이라며 “종국엔 사용자가 현실로부터 자신을 고립시키는 ‘정보 누에고치(information cocoon)’를 만들 수 있다”고 경고했다.

팡빙싱의 경고를 미리 들은 듯 중국 당국은 오픈AI의 챗GPT 서비스를 강력하게 규제 중이다. 지난 2월 닛케이 아시아의 보고서에 따르면 중국의 인터넷 규제 당국은 중국 기술 회사에 챗GPT 접근 권한을 대중에게 제공하지 말라고 지시했으며 이들 회사는 챗GPT와 유사한 자체 서비스를 출시하기 전 당국에 미리 신고해야 한다. 그러나 중국 거대 검색 엔진 바이두가 현지 인터넷 회사 중 처음으로 ‘어니 봇(Ernie Bot)’이라는 자연어 AI 기술 서비스를 출시하는 등 챗GPT 열풍은 중국에서도 계속되고 있다.

한편 팡빙싱은 이날 인터뷰에서 AI가 더 발전하면 인류에게 위협이 될 수 있다는 경고도 곁들였다. 그는 “지금은 (AI가) 온라인 채팅과 같은 곳에서만 쓰이는 단순한 소프트웨어”라면서도 “로봇과 자동차에 AI가 탑재될 경우 인간에게 미칠 수 있는 잠재적 피해에 대해 경계해야 한다”고 말했다. 이와 같은 경고는 지난 2월 중국의 억만장자 저우훙이(Zhou Hongyi) ‘치후 360′ CEO가 “2~3년 안에 챗GPT는 자각하는 능력을 갖고 인간을 위협할 수 있다”고 한 것과도 일맥상통하는 말이다.

컴퓨터 과학자이자 전직 정부 관리인 팡빙싱은 중국의 악명 높은 인터넷 검열 및 감시 시스템의 수석 설계자이다. 그는 중국 정부가 시민들의 온라인 접근을 통제할 수 있도록 하는 정교한 인터넷 필터 및 차단 시스템인 ‘만리방화벽’을 만들고 개발하는 데 중요한 역할을 한 것으로 알려져 있다. 지난 10년간 점점 강화된 만리방화벽은 중국 네티즌들이 페이스북, 트위터, 구글 등 다양한 외국 소셜미디어나 웹사이트에 접근할 수 없도록 막고 있다.

[박정훈 기자]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -