정신병 걸린 로봇

[한겨레21] 학습능력과 자의식 있는 인공지능 로봇이 자해를 한다면

위키미디어

‘인공지능 로봇’이 빠르게 발전하면서 로봇을 인간처럼 취급하는 사례가 있다. ‘로봇세금’과 ‘전자인간법’이 대표적인 예다. 로봇세금은 마이크로소프트 창업자 빌 게이츠가 제안한 정책이다. 말 그대로 로봇을 사용하는 기업에 세금을 부과하자는 것이다. 전자인간법은 지난 1월12일 유럽연합(EU)에서 제정했다. 로봇을 ‘전자인간’으로 규정해 나름의 법적 지위를 부여하는 것이다.

로봇세금과 전자인간법이 나온 이면을 살펴보면 인류가 이미 ‘로봇의 인간화’를 어느 정도 인정한다는 것을 알 수 있다. 실제 로봇이 인간의 일자리를 위협하는 것은 현실이 됐다. 로봇은 스스로 생각하고 인간과 닮은꼴의 노동을 통해 인간의 일자리를 대신하고 있다. 로봇이 사람을 적으로 간주해 공격할 수 있다는 우려도 커졌다.

문제는 인간이 따라갈 수 없는 강력한 ‘신체 기능’을 가진 로봇이 어쭙잖은 ‘오판’을 할 경우 인간에게 큰 위협이 된다는 점이다. 로봇을 법으로 제재하려는 것도 이런 까닭이다. 그렇다면 로봇이 생각하는 수준은 어느 단계까지 와 있을까? 영국 레딩대학 연구팀은 인공지능이 사람과 마찬가지로 학습능력과 자의식을 가졌다는 것을 보여주는 실험을 진행했다.

연구팀은 달팽이 수준의 인공지능을 가진 여러 소형 로봇을 밀폐된 공간에 넣고 학습량을 달리 부여했다. 그리고 로봇들의 행동 결과를 관찰했다. 연구 결과는 매우 놀라웠다. 학습량 축적 수준에 따라 각 로봇의 태도가 달랐기 때문이다. 똑같은 지능으로 시작했지만, 어떤 로봇은 돕는 것을 마다하지 않는 ‘착한 로봇’으로 성장했다. 또 다른 로봇은 상대를 괴롭히는 공격성을 지닌 ‘나쁜 로봇’으로, 어떤 로봇은 스스로를 공격하는 ‘자해로봇’ 성격을 드러냈다.

특히 주목할 것은 자해로봇이다. 인간으로 치면 정신병 같은 행동을 보였기 때문이다. 자해로봇에게 ‘정신병’이란 표현을 쓰는 까닭도 눈길을 끈다. 기존에는 ‘기계’가 문제를 일으키면 ‘오류가 났다’는 표현을 썼다. 그러나 자해로봇의 ‘오류’는 시스템의 연산이 잘못된 게 아니었다. 애초 다른 로봇과 똑같은 조건에서 만들어졌지만 학습 뒤 자해하는 태도를 보였기 때문이다.

윌 스미스 주연의 영화 <아이, 로봇>(2004)을 보면, 로봇은 인간에게 없어서 안 될 ‘동반자’로 나온다. 인간을 위해 존재한다는 ‘로봇 3원칙’도 존재한다. 그러나 중앙컴퓨터 ‘비키’가 인간을 통제하려는 극단적인 선택을 한다. 비키 처지에선 그렇게 함으로써 인간사회에 평화를 실현할 수 있다고 생각했다. 당시 관객들은 비키가 ‘시스템 오류’를 일으켰다고 생각했겠지만, 레딩대학 연구팀의 결과에 따르면 비키는 ‘정신병을 앓았던 것’일 수도 있다.

로봇과 인간은 어디까지 닮아갈까? 이 문제에서도 차이가 있다. 로봇의 정신질환은 인간의 것보다 치료가 한결 쉽다는 점이다. 로봇의 경우, 선천적 정신질환이라면 로봇에 적용된 알고리즘을 수정하면 된다. 후천적이라면 학습으로 저장된 내용을 모두 지운 뒤 새로운 내용을 학습시키면 된다. 그러나 시간이 흐르면 더 복잡한 문제가 생길 수도 있다. 인간과 로봇이 더 가까워져 ‘반려로봇’이 생기면 어떻게 될까? 이 경우, 로봇에 저장한 정보를 지우거나 생각 방식을 임의로 바꾸는 것이 반려로봇의 인권을 침해한다는 여론이 커질 수도 있다.

유성민 IT 칼럼니스트 dracon123@naver.com

*‘유성민의 IT 스토리’ 연재를 마칩니다. 그동안 좋은 글 보내주신 유성민 칼럼니스트와 애독해주신 여러분께 감사드립니다.

독자  퍼스트  언론,  <한겨레21>  정기구독으로  응원하기!

전화신청▶ 02-2013-1300 (월납 가능)

인터넷신청▶ http://bit.ly/1HZ0DmD

카톡 선물하기▶ http://bit.ly/1UELpok

공식 SNS [통하니] [트위터] [미투데이] | 구독신청 [한겨레신문] [한겨레21]

Copyrights ⓒ 한겨레신문사, 무단전재 및 재배포 금지

<한겨레는 한국온라인신문협회(www.kona.or.kr)의 디지털뉴스이용규칙에 따른 저작권을 행사합니다.>