AI는 인간 마음을 얼마나 알까 [오철우의 과학풍경]

얼굴 표정을 분석하거나 이전의 심리학 실험 데이터로 인공지능을 학습시켜 인간 마음을 들여다보고 예측하려는 인공지능(AI) 기술들이 개발되고 있다. 사진은 감정 인식 연구자들이 기쁨, 분노, 혐오, 슬픔, 놀람, 두려움의 기본 감정을 식별할 때 참조하는 얼굴 표정들. 콘-가나데 제공

오철우 | 한밭대 강사(과학기술학)

미국의 원로 심리학자 폴 에크먼은 감정 인식 기술의 개척자로 널리 알려져 있다. 1960년대 파푸아뉴기니 원주민 등을 대상으로 한 심리 실험을 바탕으로, 그는 얼굴 표정과 내면의 감정 사이에는 문화와 문명을 초월하는 보편적인 연결 고리가 있다는 주장을 펼쳤다. 그가 1978년 개발한 얼굴 표정 분석 시스템(FACS)은 이후 컴퓨터 비전 기술과 결합해 감정 인식 연구의 출발점이 되었다. 얼굴 표정을 측정하면 기쁨, 슬픔, 놀람 같은 내면 감정을 추론할 수 있다는 것이다.

감정 인식은 인공지능(AI) 면접, 감정 기반 마케팅과 감정 피드백 교육 같은 영역에서 혁신 기술로 한때 주목을 받았다. 그러나 심리학계와 인권단체의 날카로운 비판이 이어졌다. 감정은 맥락적이고 복잡한 과정이며 같은 표정도 다른 감정을 표현하는 경우가 많기 때문이다. 더욱이 개인의 감정과 내면 상태를 동의 없이 자동으로 분석하고 추정하는 기술은 심리적 프라이버시를 침해한다는 윤리적 우려가 크다. 지난해 제정된 유럽 인공지능법은 감정 인식 시스템을 학교와 직장에서 사용하는 것을 ‘허용할 수 없는 위험’으로 분류해 원천 금지했다.

요즘에는 인간의 선택과 의사결정의 심리 구조를 모방하는 인공지능 모델 만들기가 한창 주목받고 있다. 최근에는 독일의 헬름홀츠 인공지능연구소 연구진이 ‘켄타우로스’라는 그리스 신화의 등장인물 이름을 딴 인간 심리 시뮬레이션 모델을 개발해 ‘네이처’에 발표했다.

네이처 보도에 따르면, 연구진은 160건의 심리학 실험 데이터로 생성형 인공지능인 ‘라마’(Llama)를 학습시키는 방식으로 인간 심리를 모방하는 인공지능을 구현할 수 있었다. 학습용 데이터에는 160건 실험에 참여한 6만여명에게서 수집한 1천만건의 심리 반응이 담겼다. 방대한 인간 데이터로 학습한 켄타우로스는, 예컨대 도박처럼 불확실한 상황에서 인간이 어떻게 선택하고 결정할지를 예측하고 모방할 수 있다. 당장 쓰임새는 불확실하지만 일단 이 모델은 기존의 심리학 연구 모델들보다 더 높은 정확도로 인간의 선택과 결정, 행동을 예측할 수 있다고 한다.

켄타우로스는 인간 마음을 얼마나 아는 걸까? ‘사이언스’의 뉴스 보도를 보면, 기대도 있지만 회의적인 평가도 있다. 인공지능이 학습한 실험 데이터는 실제 인간의 내면 심리에 비하면 사실 빙산의 일각일 뿐이다. 마음이 작동하는 방식 자체가 다르다는 점도 지적됐다. 한 과학자는 디지털과 아날로그 시계가 작동 방식에서 다르다는 점을 들어 “마찬가지로 인공지능이 인간처럼 선택을 하더라도 인간의 정신 메커니즘과는 본질적으로 다르다”고 강조한다.

사람 마음을 알고 이해할 줄 아는 인공지능은 마음의 반려자나 돌봄이 필요한 사람들에게 좋은 도구로 쓰일 수 있다. 하지만 인공지능을 과신하거나 오남용할 때는 섣부른 심리 예측과 분류로 인한 프라이버시 침해나 차별, 더 나아가 심리 조작과 유도 같은 심각한 문제를 낳을 수 있다. 인공지능이 사람 마음을 흉내 내려 할수록 그 기술의 윤리적 경계와 사회적 책임에 관한 관심과 논의도 더욱 많아져야 하겠다.

▶▶[한겨레 후원하기] 시민과 함께 민주주의를!

▶▶민주주의, 필사적으로 지키는 방법 [책 보러가기]

▶▶한겨레 뉴스레터 모아보기