“20년 전보다는 달라야 하지 않겠나"…AI 윤리, 어디까지 왔나

[디지털데일리 김보민 기자] "20년 전까지만 해도 인공지능(AI)은 뚜렷한 형체가 없었습니다. AI 윤리에 대한 실질적인 논의도 당연히 없었죠."

최근 디지털데일리를 만난 AI 기업의 한 관계자는 업계 흐름을 묻는 기자의 질문에 이렇게 답했다. AI를 업무 보조 수단으로 활용하는 게 흔한 일이 아니던 시절, 신기술이 가져올 파장에 대한 논의가 전무했다는 설명이다.

그러나 이 관계자는 20년이 흐른 지금, 상황이 달라졌다고 강조했다. 챗GPT를 계기로 사람처럼 행동하는 생성형 AI가 인기몰이를 하고 있는 만큼, AI 윤리에 대한 범세계적 차원의 기준이 필요하다는 것이다.

현재 AI 기술은 '양날의 검'이라는 평가를 받는다.

의료·교육·법률·보안·교통 등 다양한 분야에서 인간의 삶을 증진시키는 데 기여하는 동시에, 인간의 권리를 침해하거나 사회적 차별을 악화 시키기도 한다.

AI 기술을 개발하거나 이를 도입한 기업들이 공식 석상에서 저작권 침해, 환각 현상(할루시네이션) 등에 대한 우려를 표하는 이유다. 구글과 마이크로소프트(MS) 등 빅테크 기업조차도 AI 윤리를 정의하기 위해 고군분투하고 있다.

세계 주요국들은 약 2년 전부터 정부 차원에서 AI 윤리에 대한 논의를 본격 테이블에 올려두기 시작했다.

미국은 2021년 '인공지능 기술의 책임 있는 사용을 위한 국가 전략'을 발표했다. 여기에는 AI 기술의 혁신과 경쟁력을 강화하면서도 인권, 민주주의, 공정성 등의 가치를 존중하기 위한 방안이 담겼다.

유럽연합(EU) 또한 같은 해 '인공지능에 관한 규제 제안'을 발표했다. AI 시스템의 위험 수준에 따라 ▲금지 ▲고위험 ▲제한된 위험 ▲최소 위험 등 4단계의 규제를 적용하는 게 핵심이다.

이 밖에도 유엔교육과학문화기구(UNESCO)는 2021년 11월 제41차 총회에서 193개 회원국의 만장일치로 '인공지능 윤리 권고'를 채택했다. 이 권고는 AI의 건전한 발전을 보장하기 위해 법적 인프라를 구축할 공통 원칙을 정의하는 데 초점을 두고 있다.

한국도 AI 윤리 논의에 속도를 올리고 있다.

대표적으로 한국은 2020년 '인공지능 윤리 헌장'을 선포했다. 윤리 헌장은 ▲인간 존엄성 ▲자율성 ▲공정성 ▲사회적 책임 ▲보안성 등 5대 원칙을 중심으로 실천 방안을 이행하는 게 골자다.

최근에도 AI 윤리에 대한 목소리를 키우고 있다. 현 정부는 AI 관련 윤리·신뢰성 문제에 규범과 규제로 대응하겠다며 디지털 권리장전을 공식화했다.

다른 AI 기업 관계자는 "AI가 특정 인종, 성별, 종교 등에 대한 편견을 담고 있으면, 그 결과도 편향되거나 차별적일 수밖에 없다"라며 "인간의 가치를 해치지 않는 방향으로 AI가 개발되어야 한다는 국제적 목소리가 커지는 이유"라고 말했다.

그렇다면 기업들은 AI 윤리에 대한 기준을 어떻게 수립하고 있을까.

글로벌 빅테크를 대표하는 구글은 'AI 원칙'을 운영하고 있다. 이 원칙은 'AI는 사회적 이익을 증진시켜야 한다', 'AI는 안전하고 신뢰할 수 있어야 한다', 'AI는 사람과 협력하고 존중해야 한다', 'AI는 과학적인 엄격성과 기술적 우수성을 추구해야 한다' 등으로 구성돼 있다.

구글은 이 원칙을 실천하기 위해 AI 시스템의 편향성, 설명 가능성, 안전성 등을 개선할 수 있도록 오픈소스 도구(TensorFlow)를 개발하기도 했다. 이 도구는 AI 모델의 성능과 편향성을 분석하는 데 쓰인다.

MS도 'AI 윤리 가이드라인'을 선보였다. 가이드라인에는 'AI는 인간 중심이어야 한다', 'AI는 공정하고 비차별적이어야 한다', 'AI는 개인정보와 보안을 보호해야 한다', 'AI는 투명하고 설명 가능해야 한다' 등으로 구성돼 있다.

MS 또한 가이드라인을 실천하기 위해 AI 공정성 진단 시스템(Fairlearn)을 운영하고 있다.

IBM은 'AI는 인간의 가치와 권리를 존중하고 보호해야 한다'는 기조 아래 AI 윤리 원칙을 시행하고 있다. AI 시스템의 결정 과정과 결과를 이해하기 쉽게 설명하는 오픈소스 툴킷(IBM AI Explainability 360)도 선보인 바 있다.

국내에서도 네이버, 카카오, LG 등 초거대 AI 시장을 이끄는 주요 기업을 비롯해 스타트업의 약진도 두드러지고 있다. 일례로 업스테이지는 데이터 수집 및 공유 플랫폼 '1T 클럽'을 통해 AI 윤리와 신뢰성을 구현하고 있다.

AI 기업 관계자는 "생성형 AI가 단순 '거품 인기'에 그치지 않기 위해서는 각국의 노력은 물론, AI 기업들의 참여가 필요하다"라며 "시스템 개발 등에 AI를 어떻게 활용할지 구체화하는 기업이 승부 카드를 쥐게 될 것"이라고 말했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -