“자율차 ‘트롤리 딜레마’ 해법은?...원칙 대신 무작위 결정을”

로봇윤리학자 폴 뒤무셸 인터뷰

사람은 자율로봇 아닌 기계노예 원해

“로봇보다 소수의 로봇통제가 문제”

이를 막으려면 강력한 법 제정 필요

아이보, 페퍼, 지보, 파로처럼 인간의 사회적 욕구 충족을 위한 소셜로봇이 늘고 있다. 인간은 소셜로봇과 공존하기 위해서 어떤 관계를 맺어야 할까? 캐나다 출신 철학자로, 프랑스와 일본 리쓰메이칸대학에서 로봇 윤리를 연구하며 최근 국내에서 <로봇과 함께 살기>를 펴낸 저자 폴 뒤무셸 교수가 방한해 12일 오후 서울 광화문 교보빌딩에서 강연을 했다. 강연은 “그러면 누가 인간을 필요로 할 것인가?”를 주제로, 앞으로 로봇 때문에 인간은 어떻게 다른 존재가 될 것인지를 다뤘다. 강연에 앞서 뒤무셸 교수를 인터뷰했다.

- 스스로 인지하고 판단하는 자율적인 소셜로봇 시대가 올 것으로 보는가.

“로봇을 만드는 개발자나 사람들은 자율성 있는 로봇을 원하지 않는다. 인간의 지시를 따르는 기계적 노예를 원할 따름이다. 진짜 위험한 것은 자율로봇의 등장이 아니라, 로봇을 만드는 기업들이 사용자인 우리를 통제하려는 의도다.”

- 사람들은 다양하기 때문에 일부는 자율성을 지닌 로봇을 원할 수 있는데?

“자율성이란 개념을 꼼꼼히 따져봐야 한다. 인간과 동물에게 자율성이란 주어진 환경에 적응하는 것이다. 그런데 인공지능이 적응해야 하는 환경은 다르다. 인공지능이 환경에 적응한다는 것은 개발자가 어떤 데이터를 제공하느냐에 달려 있다. 로봇의 자율성을 이야기할 때 인간의 자율성과는 근본적으로 다르다. 자율주행차의 자율성은 위험을 스스로 피해 운전하는 것을 의미할 뿐 사람처럼 갑자기 바닷가로 드라이브하고 싶다는 생각 같은 것을 의미하지 않는다.”

- 소셜로봇 개발 경쟁은 섹스로봇이 보편화하는 세상을 가져올까. 이미 섹스로봇을 반대하는 국제 캠페인이 시작됐을 정도다.

“누군가 성적 관계에서 인간을 대체할 수 있는 방법을 찾기 때문에 가능하긴 하다. 그러나 실제로 섹스로봇이 인간을 대체하는 일은 일어나지 않을 것으로 본다. 지금도 섹스돌이 있지만 이를 로봇이라고 여기거나 부르지 않는다. 일본엔 지금 약 4000만명의 성인 남성이 있지만, 1년에 팔리는 섹스돌은 1000개 수준에 불과하다.”

- 소셜로봇은 청소나 산업용 로봇과 달리 특정한 용도가 아닌 사람의 상대가 된다. 칸트는 사람을 수단 아닌 목적 자체로 대우하라고 말했는데, 사람 상대인 소셜로봇도 인간처럼 존중받거나 존엄한 대상이 될 수 있나.

“물범처럼 생긴 치매 치료용 소셜로봇인 파로의 개발자 시바타 다카노리를 인터뷰했는데 ‘목적 없는 로봇을 만들고 싶다. 쓸모없는 로봇을 만들고 싶다’라고 말해 흥미로웠다. 도구가 아닌 그 자체만으로 존재한다면 존엄하다고 볼 수 있을 것이다. 예술품도 존엄한 가치가 있다고 볼 수 있는 것처럼, 로봇도 성공적인 과학 산물로 비슷한 가치가 있을 수 있다고 본다. 그러나 칸트의 말에서도 스스로가 목적인지 스스로를 위한 목적인지를 구분해야 한다. 개나 다른 생명체도 자신의 생존을 위한 목적으로 행동하지만 인간의 존엄과 다르다. 로봇도 마찬가지다.”

- 자율성을 지닌 로봇을 개발하는 일은 인류에게 어떤 결과를 초래할 것이라고 보는가.

“자율로봇의 등장은 인간이 통제권을 로봇에 넘기는 게 아니다. 로봇을 설계하고 운영하는 소수에게 권력을 집중시키는 현실이다. 기계는 책임이 없고 그 기계를 통해서 소수의 사람이 결정할 것이다. 자율군사로봇도 규칙을 설계하고 운영하는 소수의 손에 권한이 집중되는 결과가 진짜 위험이다. 결국 누가 기계를 규제하고 기계의 결정권을 통제할 것인가의 문제다. 그래서 로봇과 인공지능 시대에 소수에게 권한이 집중되는 것을 막고 이를 규제하기 위해서 결국 강력한 법 제정이 필수적이다.”

- 자율주행차와 관련해 ‘과연 누구를 죽일 것인지’를 선택해야 하는 윤리적 딜레마인 ‘트롤리 문제’가 널리 알려져 있다. 어떤 선택이 최선일까.

“그런 질문에 답을 해야 하는 사람들 누구도 지금까지 그런 상황에 직면하지 않았고 앞으로도 마찬가지일 것이다. 대개 인간은 그런 상황에서 생각하지 않고 반사적으로 행동한다. 나도 마찬가지다. 기계적 판단을 요구하는 것이 답이 되지 않는다. 나는 이 경우 기계에 보편적으로 적용할 수 있는 합리적 원칙 대신 무작위로 랜덤한 결정을 내리게 할 것이다. 그리고 기계 사용으로 인한 책임은 기본적으로 제조사와 사용자가 져야 한다.”

구본권 선임기자 starry9@hani.co.kr

[▶동영상 뉴스 ‘영상+’]
[▶한겨레 정기구독] [▶[생방송] 한겨레 라이브]

[ⓒ한겨레신문 : 무단전재 및 재배포 금지]