[김주한 교수의 정보의료·디지털 사피엔스]인공지능 안전벨트

김주한 서울대 의대 정보의학 교수·정신과전문의

자동차엔 안전벨트가 있다. 자동차 유리창은 깨져도 예리한 날이 생기지 않는다. 안전을 위해 가루로 부서지는 강화유리다. 당연한 안전장치가 처음부터 당연했던 것은 아니다. '소비자의 대통령' 랄프 네이더의 오랜 투쟁 결과로 안전벨트 설치를 의무화한 교통안전법이 1966년 통과됐다.

당시 자동차 회사가 디자인 개선에 쓴 돈은 매년 대당 6500달러였지만, 안전에 쓴 비용은 2.14달러였다. 정부도 고속도로를 예쁘게 치장하는 예산은 3200만달러를 썼지만, 고속도로 안전에는 50만달러를 썼다. 네이더가 자동차 안전문제에 관심을 갖게 된 계기중 하나는 교통사고로 다리를 절단한 학창시절 한 친구의 사고였다. 번쩍거리는 코팅으로 운전을 방해하는 계기판과 과시하듯 툭 튀어나온 범퍼는 안전을 우선한 설계로 변경됐다. 오늘날 자동차는 많이 안전해졌다.

차 사고가 나면 “부주의한 운전이나 과속때문”이라며 운전자를 탓해온 당시 관행이 사실은 자동차 회사가 만들어낸 허위적 이데올로기라는 점에 네이더는 주목했다. 1965년 31세의 네이더가 쓴 책, '모든 속도에서 위험하다(Unsafe at Any Speed)'는 비소설 부문 베스트셀러에 올랐다. 거대 자동차 회사 GM이 엔진을 뒤쪽에 배치한 최초의 후륜구동형 모델인 쉐볼레 코베어는 큰 설계변경이 적용된 야심작이었다. 그러나 멋과 가격에 중점을 둬 서스펜션 결함, 앞 뒤 타이어 공기압 불균형, 핸들을 돌린 것보다 심하게 요동치며 과회전하는 '오버스티어' 현상으로 차제 전복 위험이 있다는 내부 엔지니어의 안전문제 지적은 무시됐다.

GM은 사립탐정과 매춘부까지 고용해서 네이더를 탈탈 털고 함정에 빠뜨리려 유혹했다. 심각한 스토킹 사실이 밝혀지자, 처음엔 사실무근이라며 펄펄 뛰던 제임스 로슈 GM 사장은 결국 1966년 상원 청문회에 함께 참석한 청년 네이더에게 공개사과를 해야 했고, 교통안전법은 의미있는 수준으로 입법됐다.

일반인이 비행기나 함선을 조종할 기회는 없겠지만, 누구나 자동차를 운전하는 세상이다. 문제는 자동차의 복잡성이 비행기나 함선보다 결코 낮지 않다는 점이고, 일반인이 자동차 설계나 구조적 특성을 이해하는 것은 사실 불가능하다는 점이다. 이처럼 복잡한 첨단 기계장치가 대중화될 때 그 설계를 거대 회사 손에만 맡겨서는 안전벨트 없이 창밖으로 내던져질 소비자 안전을 보호할 도리가 없다는 뜻이다.

인공지능(AI) 대중화가 시작됐다. AI는 자동차처럼 또 하나의 좋은, 인류에게 큰 편익을 제공할 도구임에 틀림없다. 문제는 일반인이 이 복잡한 첨단 기계장치의 설계나 구조적 특성을 이해할 수 없는 상태에서 매일 AI를 사용할 운명이라는 점이다. 더 심각한 점은 우리 앞에 펼쳐질 지뢰밭의 실체가 무엇인지 전문가조차 잘 모르고, 조사나 파악, 이해도 부족하다는 점이다. 가짜뉴스나 딥페이크, 넷중독성 유해성이나 소위 '고위험 AI' 목록을 정리하고 있지만 우리에게 필요한 것이 안전벨트인지, 강화유리나 안전 범퍼인지는 아직 명확치 않다. 인터넷 대중화를 이끈 웹브라우저는 암호화 기술, 샌드박스, 고위험 스크립트 제어, API 등이 도움을 줬다. 스마트폰 대중화에는 앱 자체의 검증절차와 OS 수준에서 앱과 앱 사이 위험한 통신 제어가 역할했다. 그 과정에서 액티브X는 소멸됐고 클라우드 환경은 새로운 위험과 만나기 시작했다.

유럽연합은 '고위험 AI'에 대한 포괄적 규제법안에 합의했다. '책임성'과 '개인 추적 금지' 외에는 아직 대부분 추상적 선언에 가깝다. 한국은 '세계 최초'를 내세운 AI법안을 추진 중이다. 최초에 대한 집착과 산업계 의견이 많이 반영된 것에 비해 소비자 안전을 위한 실효적 조항은 부족한 점이 아쉽다. 일반 소비자는 이 복잡한 첨단 기계장치 구조나 특성을 이해할 수 없다. 무엇이 AI 사고를 줄이기 위한 안전벨트와 강화유리인지 찾아내야 하고, 사업가는 엔지니어의 말에 귀를 기울여야 한다. 화려한 치장 대비 안전에 투입될 예산의 균형점도 찾아야 한다. 2019년에 에티오피아 항공 302편 추락 사고로 조카손자를 잃은 향년 89세의 네이더는 보잉 737 맥스 기종의 완전 퇴출을 위한 사회운동을 펼치고 있다고 한다.

김주한 서울대 의대 정보의학 교수·정신과전문의 juhan@snu.ac.kr

[Copyright © 전자신문. 무단전재-재배포금지]