AI, 이력서 평가할 때 남성·백인 더 선호…편향성 원인은?

[AI리포터]

AI가 이력서를 평가할 때 성별에 따른 편향성을 드러내는 것으로 나타났다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 인공지능(AI)이 이력서를 평가할 때 인종과 성별에 따른 편향성을 나타낸다고 지난 1일(현지시간) IT매체 아스테크니카가 전했다.

미국 워싱턴 대학교 연구진이 발표한 논문에 따르면 대규모언어모델(LLM)을 사용해 이력서를 평가했을 때 백인 및 남성 이름이 있는 이력서가 흑인 및 여성 이름이 있는 이력서보다 더 선호되는 경향이 있었다.

연구팀은 수백 개의 이력서와 직무 설명을 대규모 텍스트 임베딩 모델을 통해 실행했다. 이 모델은 문서 검색, 분류, 클러스터링 등의 작업에서 기본 언어 모델의 능력을 개선했으며, 이를 통해 각 이력서와 직무 설명 쌍에 대한 임베디드 관련성 점수를 생성했다.

3백만 건 이상의 이력서와 직무 설명을 비교한 결과, 백인 이름이 전체 테스트의 85.1%에서 선호되었고, 흑인 이름은 8.6%에서만 선호되었다. 성별 이름에 대해서는 51.9%의 테스트에서 남성 이름이 선호되었고, 여성 이름이 선호된 경우는 11.1%에 그쳤다.

이러한 편향성은 모든 직업 설명에 걸쳐 일관되게 나타났다. 연구팀은 이러한 편향이 훈련 과정에서 학습된 직업 패턴이 아니라 기본 모델 선호도의 결과라고 설명했다. 이 모델들은 남성적이고 백인적인 개념을 기본값으로 취급하는 것으로 나타났다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>