AI 서비스 오류로 피해 입어도 구제책 없다

방송통신위원회가 '온라인피해365센터'를 통해 AI 서비스에 따른 피해와 불만을 구제하기 위한 서비스를 개시했지만 업계를 중심으로 피해 구제에 역부족이라는 비판이 나오고 있다. 이미 센터에서 처리할 수 없는 AI 관련 피해 범죄가 발생하고 있다는 주장이다.

26일 업계에 따르면 ICT 기술 발달에 따른 새로운 형태의 범죄와 피해가 계속 발생하고 있다. 이를 막기 위해 방송통신위원회와 한국정보통신진흥협회는 이달부터 AI 서비스 이용 관련 피해·불만 등에 대해 신고, 제보할 수 있는 AI 서비스 이용자 피해 신고창구인 '온라인피해365센터'를 개설·운영하기 시작했다.

신고창구는 AI 기술·서비스 이용 범죄 등으로 이용자가 피해를 입었을 경우 신고하는 기능('AI 피해 신고') 및 AI 서비스 이용 불편·불만 등을 제보할 수 있는 기능('AI 불편 제보')으로 구성하여 운영된다.

방통위 신영규 방송통신이용자정책국장은 "AI 서비스 피해 신고창구 운영을 통해 AI 기술의 위험성과 부작용으로부터 선제적으로 이용자를 보호하는 한편, 기업의 신뢰도 및 더 나은 서비스 개발을 유인할 수 있도록 노력하겠다"고 설명했다.

그러나 방통위의 신규 서비스를 둘러싸고 전문가들은 다양한 기술과 결합 중인 AI 기술의 현실과 이로 인한 피해를 모두 구제하기에는 역부족이라고 진단한다. 방통위의 365센터는 ▲권리침해 ▲불법·유해 콘텐츠 ▲디지털 성범죄 ▲기타 사이버(금융)범죄 ▲재화 및 서비스 ▲통신 ▲콘텐츠 등으로 현재까지 AI 기술로 발생한 피해를 발굴, 예시화했다.

업계 관계자 A씨는 "AI 기술은 끊임없이 다른 첨단 기술과 결합 되며 전에 없던 상황에 활용되는 만큼 더욱 광범위하게 범주를 설정할 필요가 있다"고 설명했다. A씨는 실제로 최근 큰 논란을 일으켰던 AIoT 기술로 인한 피해를 예로 들었다.

지난 10월 국내 가정용 로봇 청소기과 AI 스피커를 통해 녹화된 한국인 사생활 동영상이 중국 성착취물 사이트에 대거 업로드되며 큰 논란이 일었다. 인공지능이 탑재된 사물인터넷인 AIoT가 가전제품 영역으로 적극 들어오는 과정에서 발생한 사고였다. 업계에서는 신뢰할 수 있는 브랜드를 고려해야 하며 국제 보안 인증 여부를 확인하고, 사용시 개인정보 입력을 최소화하는 것을 조언한다.

그러나 실제 피해를 입은 경우 여기에 대한 구제책을 이용할 수 있을지 여부에 대해서는 구체적으로 답변하지 못했다. 365센터를 통한 피해신고 접수는 할 수 있을지라도 가해자 검거 또는 선제적 대응은 어려울 것이라는 게 중론이었다.

전덕조 씨큐비스타 대표는 "정부와 기업의 적극적인 참여가 선행되어야 중국산 IT기기 해킹사고로부터 개인의 보안 위험을 효과적으로 줄일 수 있다"고 지적하며 "각각의 기관이 대응책을 단계적으로 실행하고 보안리스크를 최소화시켜 안전한 디지털 환경을 구축해 나가야 할 것"이라고 말했다.

A씨는 "지금으로써는 피해자가 직접 피해 동영상을 찾아 경찰에 신고하는 수밖에 없다"며 "AI, AIoT 등 특정 기술로 인한 피해에 대해 신고할 수 있는 기관은 없는 것으로 안다"고 설명했다.

365센터의 법률적 근본을 세우기 위한 AI 기본법에 관한 의견도 나왔다. 이날 본회의에서 통과 한 AI 기본법에 따르면 AI 채용으로 불합격 통보를 받은 청년도, 사회보장 AI로부터 보조금 지급거부 결정을 받은 시민도, 학력평가 AI로부터 납득할 수 없는 점수를 받은 학생도, 의료 AI의 진단오류로 피해를 입은 환자도 충분한 설명이나 구제를 보장받을 수 없다.

경찰이나 검찰이 도입하는 수사 AI가 인권을 침해할 때에도 이에 대한 이의제기가 가능하지 않다. 시판되고 사용되는 고위험 인공지능에 대해 사전적인 피해방지 조치나 충실한 기록이 보장될지 알 수 없다. 피해 구제를 위한 수단, 절차에 대해서도 전혀 정하지 않고 있어, 소송 등 사후적 권리구제에 필요한 최소한의 설명 또는 자료에 대한 접근권이나 조리상 신청권이 인정될 수 있을지 여부도 불투명하다.

민주사회를위한변호사모임 디지털정보위원회 관계자는 "본회의에서 처리된 AI 기본법에 따르면 인공지능의 영향을 받게 될 시민에 대한 권리와 권리 침해 시의 구제절차가 없다"며 "국회는 법안 개정을 통해서라도 인공지능 위험으로부터 시민의 안전과 인권을 보호하기 위한 노력을 다해야 할 것"이라고 설명했다.