위키피디아가 사이버 공격을 받으면 덩달아 AI도 위험해져…왜?

[AI리포터]

온라인 백과사전으로 불리는 '위키피디아'의 정보 데이터가 오염될 시 인공지능(AI) 시스템에도 악영향을 줄 수 있다는 주장이 제기됐다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 온라인 백과사전 위키피디아의 정보 데이터가 오염되면 인공지능(AI) 시스템에 악영향이 갈 수 있다는 주장이 제기됐다고 26일(현지시간) 요미우리신문이 전했다.

앞서 지난해 2월, 구글 연구팀은 위키피디아와 AI와의 관련성에 대한 논문을 발표했다. 논문 내용을 보면 위키피디아가 일종의 사이버 공격을 받아 잘못된 정보를 담게 된다면 AI 역시 부정확하고 편향된 응답을 제공할 수 있다. 전 세계 사용자에 의해 편집되는 위키피디아는 공격자가 의도적으로 거짓 정보를 계속 표시하는 것은 어렵지만 특정 시간이나 순간에 거짓 정보가 게시되는 것은 충분히 가능하다.

위키피디아에는 신뢰할 만한 정보가 많이 포함되어 있는 만큼 AI 시스템에게 이상적인 학습 환경이다.

논문의 공동 저자 중 한 명인 스위스 연방 기술 연구소의 플로리안 트라머 부교수는 "실험을 통해 위키피디아에 대한 위험 인식을 높였다"며 "인터넷에는 방대한 양의 데이터가 있고, 사이버 공격 또한 어쩌면 흔한 일이다. 그러나 정치적 목적으로 AI가 이뤄질 수도 있다는 점 역시 우려된다"고 설명했다.

지난 1월에는 미국, 영국, 일본 등이 포함된 11개국이 AI의 오류에 대비하기 위한 국제 지침에 서명했다. 해당 서명에는 AI가 부정확하고 편향된 응답 할 수도 있다는 위험 가능성이 포함됐다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>