AI시대, 가전도 자율주행차도 해킹 위험 노출…“설계부터 안전망 구축해야”

중국 유니트리의 휴머노이드 ‘지(G)1’. 유니트리 누리집 갈무리

인공지능(AI)이 가전제품에 탑재되고, 휴머노이드(인간형 로봇)나 자율주행차 등을 통해 현실 세계로 들어오며 새로운 보안 우려가 제기되고 있다. 제품이 기억하는 개인의 일상이 곧 민감정보가 되고, 이를 학습하며 활동하는 ‘피지컬 인공지능’들이 해킹의 대상이 될 수 있기 때문이다. 이를 위해서는 설계 단계부터 보안을 유지해야 한다는 제언이 나온다.

21일 블룸버그 등 외신의 설명을 종합하면, 중국의 대표적인 휴머노이드 기업 ‘유니트리’의 ‘비(B)2’, ‘G(지)1’ 등 주요 로봇에서 지난해 9월 해킹 위협이 발견됐다. 해커들이 블루투스 설정을 통해 로봇의 주도권을 뺏고 원격 조정에 성공한 것이다. 유니트리는 소프트웨어를 업데이트하고 백도어(뒷문) 연결을 차단하는 등 보안 조처를 한 것으로 전해졌다.

자율주행차도 안전하지 않다. 지난 2016년 중국 텐센트 산하의 킨 보안연구소가 세계에서 처음으로 미국 테슬라의 모델에스(S) 차량을 해킹해 문을 여닫고 브레이크를 움직인 것이 대표적인 사례다. 이후 테슬라는 정기적으로 보안 소프트웨어를 업데이트하고 있다. 테슬라는 물론, 대부분의 차량이 소프트웨어 기반 시스템과 자율주행을 탑재할 예정인 만큼 보안 강화라는 숙제가 생겨난 셈이다.

더욱이 인공지능이 각 집안의 가전제품까지 들어오면 위협은 일상 전반에 퍼질 수 있다. 최근 가전업계가 내세우는 ‘인공지능 가전’은 사용자의 일상을 파악하고 이를 학습해 맞춤형으로 편의를 제공하는데, 이를 위해 일과, 건강 정보 등을 수집한다. 이는 일상을 편리하게 만들 수도 있지만, 유출될 경우 다른 개인정보들과 맞물려 사용자에게 피해를 줄 수도 있기 때문이다.

업계에서는 ‘인공지능 보안’을 강조하는 추세다. 삼성전자는 올해 미국 소비자가전전시회(CES)에서 인공지능 가전과 함께 보안 플랫폼 ‘녹스’와 보안 칩셋을 선보였다. 슈퍼컴퓨터를 넘어 양자 컴퓨터의 해킹까지 막는 ‘양자 내성 암호(PQC)’ 기술이 적용된 이 칩셋은 올해 시이에스 최고 혁신상을 받았다. 인공지능 기술을 누리기 위해서는 보안 역시 중요한 과제라는 점을 보여준 셈이다.

전문가들은 현실에서 활동하는 피지컬 인공지능은 ‘설계에 의한 보안’(Secure by Design)이 중요하다고 짚었다. 보안 기능이 마지막 방어선이 아닌, 설계 단계부터 고려돼야 한다는 의미다. 이지민 한국과학기술정보연구원 선임연구원은 “피지컬 인공지능 해킹은 현실의 피해로 곧 이어진다”며 “시스템 자체를 처음부터 안전하게 설계하고, 동시에 인공지능을 활용해 보안 위협을 막아야 한다”고 말했다.

권효중 기자 harry@hani.co.kr

[한겨레 후원하기] 시민과 함께 민주주의를

겨울밤 밝히는 민주주의 불빛 ▶스토리 보기

▶▶한겨레 뉴스레터 모아보기