딥페이크 범람의 근본원인은?

모든 기술의 중심에는 사람이 있다. 기술을 개발하는 사람, 이용하는 사람, 그 혜택을 받는 사람, 피해를 받는 사람 모두가 사람이다. 인공지능시대 사람에 대한 이해가 필요한 것은 기계가 말썽장이가 아니라, 사람이 말썽장이이기 때문이다.

딥페이크를 긍정적 의미로 바라보면, 데이터를 생성하는 알고리즘으로 누구나 창작에 인공지능 기술을 이용할 수 있게 해준다. 예술에 재능이 없는 사람들도 인공지능 기술을 도구적으로 활용해 자신의 생각과 감정을 표현할 수 있다는 점에서 문화산업 발전에 긍정적으로 작용할 수 있다. 역사 이래로 예술가 또는 예술인에게 집중된 창작의 역할이 일반인에게로 확장된 덕분에, 일반인들도 예술의 향유에 머무르지 않고 창작의 영역으로 띄어들어 적극적인 문화예술 활동의 주체로서의 역할이 커지고 있다. 인공지능 기술은 인간에게 좀더 인간적인 역할을 가져다준다는 점에서 긍정적이다.

하지만 기술은 개발자의 의도와는 다르게 이용될 수도 있다. 딥페이크는 성인물이나 타인의 명예를 훼손하는 형태로 부정적으로 이용될 수 있다. 데이터 생성 알고리즘으로 다양한 창작이 가능하지만, 반대로 타인의 초상권을 침해할 수 있고 더 나아가 딥페이크를 만들어낼 수도 있다. 합성데이터 생성기술인 갠(GAN) 알고리즘을 악용해 타인의 초상이나 음성을 음란물에 덧대어 거짓 정보를 생성하고, 누군가의 명예를 훼손하거나 다양한 피해를 주기도 한다. 정치인의 경우에는 선거에 악용됨으로써, 여론을 호도하기도 한다. 이러한 부정한 이용을 포괄하는 딥페이크에 대해 성폭력특별법이나 공직선거법 등 다른 법률을 통해 규제할 수도 있지만, 원천적으로 막기는 어렵다. 또한, 지속적이고 반복적인 생성이 가능하기 때문에 인터넷서비스제공자(ISP)를 통한 삭제 등의 대응도 쉽지 않다.

딥페이크도 다양한 기술이나 발명으로 구성된다. 인공지능 기술은 사회적인 현상 변화까지도 이끌고 있다. 인간에 의한 창작이, 기술에 의한 창작으로 주도권이 넘어가고 있는 모습도 나타나고 있다. 하지만 기술은 선의로 개발되었어도 악용되는 경우가 흔하다. 악용되는 기술에 대해서는 기술관련 법제인 특허법의 역할도 기대할 수 있을 것이다. 악의적 사용으로 사회문제화하고 있는 딥페이크 기술이 공공질서와 선량한 풍속에 어긋난다면 특허법으로 제재할 수 있다.

우리는 인공지능의 윤리를 강조한다. 하지만 인공지능 윤리 이면에 있는 사람의 윤리가 회복이 우선이다. 절대적인 윤리주체가 될 인공지능 입장에서 인간은 가장 비윤리적인 주체일 수밖에 없다. 인공지능이나 인공지능이 만들어낸 결과물은 인간이 만들어낸 데이터를 기반으로 학습한 것이다. 로봇의 모습은 우리의 자화상이 아닐까?

로봇이나 인공지능의 윤리보다, 사람의 윤리가 필요한 시대라는 걸 절감한다. 다만, 기술에 대한 가치판단은 신중해야 한다. 기술규제는 진보할 수 있는 기회까지 옭아맬 수 있기 때문이다. 그리고, 왜 이렇게까지 학생들이 딥페이크에 물들었는지에 대해 사회문화적인 현상도 교육당국이 살펴야 할 책무이다. 문제의 원인을 찾지 않고서 해결은 요원하기 때문이다.

김윤명 디지털정책연구소장(법학박사)

▶‘딥페이크’와 ‘N번방’ 진화하는 사이버 지옥 [더 보기]
▶▶한겨레 뉴스레터 모아보기▶▶행운을 높이는 오늘의 운세, 타로, 메뉴 추천 [확인하기]