베낀 유튜브 콘텐츠·가짜사진 버젓이… AI 뒤에 숨은 '윤리' [생성AI 시대의 명암 (上)]

흰 롱패딩 입은 교황 SNS서 화제
생성AI가 만든 사진으로 밝혀져
인기 유튜브 '카피캣' 채널도 논란
EU 등 각국 규제 마련 나섰지만
기술 발전 너무 빨라 못따라가
정부·기업들 '윤리' 확립 논의중

최근 프란치스코 교황이 흰색 롱패딩을 입고 바티칸시국의 성베드로광장을 산책하는 모습을 담은 사진이 SNS에서 화제가 됐다. 이는 이미지 생성 AI인 미드저니를 이용해 만들어진 것으로 확인됐다. 미국 온라인 커뮤니티 레딧 캡처 네덜란드 헤이그의 마우리츠하위스 미술관이 진행한 얀 페르메이르의 '진주 귀걸이를 한 소녀' 의 모작 공모 전시 이벤트에서 AI가 그린 작품이 논란이 됐다. 율리안 판디컨 인스타그램 캡처

생성 인공지능(AI) 기술이 고도화되면서 기술 악용사례가 수면으로 떠오르고 있다. 이미지 생성 AI 프로그램을 통해 가짜뉴스를 생산하는가 하면 저작권이 있는 원본 콘텐츠를 순식간에 베껴가는 일이 빈번하게 발생하면서다. 이에 각국이 규제 칼날을 빼든 가운데 'AI윤리' 등 AI 신뢰성 확보방안을 모색하기 위한 국내외 노력이 필요하다는 지적이다.

■인기 유튜브 콘셉트 베껴…저작권 침해 논란

2일 업계에 따르면 생성 AI 기술 발전과 함께 가짜뉴스로 인한 위험성도 높아지고 있다.

이미지 생성 AI 서비스를 활용하면 사실 같은 이미지를 만들어낼 수 있어 가짜뉴스 영향력도 높아질 것이라는 우려다. 실제로 최근 프란치스코 교황이 흰색 롱패딩을 입고 바티칸시국의 성베드로광장을 산책하는 모습을 담은 사진이 SNS에 공개돼 화제가 됐다. 하지만 미국 CNBC 등 외신에 따르면 해당 사진은 이미지 생성 AI '미드저니'를 이용해 만들어진 것으로 밝혀졌다.

생성 AI를 활용한 유튜브 콘텐츠 '카피캣(모방)'도 문제가 되고 있다.

최근 국내에서도 인기 유튜브 콘셉트를 AI 프로그램을 통해 똑같이 베낀 한 카피캣 채널 사례가 이슈가 됐다. 해당 채널은 '노아AI'라는 AI 프로그램을 활용해 유튜브에서 조회수가 높거나 화제를 끄는 영상을 추천받았다. 이후 네이버 AI 음성기록 서비스 '클로바노트'를 이용해 영상 대본을 추출, 글쓰기 관련 생성 AI인 '뤼튼'을 통해 시나리오를 작성한 것으로 알려졌다.

조원희 법무법인 디라이트 대표변호사는 "콘텐츠를 만들어낸 AI 기술이나 생성AI 프로그램 자체는 문제가 되지 않는다"면서도 "원본 이미지나 동영상, 콘셉트에서 상당한 유사성이 있어 저작권 침해가 분명해 보이고, 향후 생성 AI 저작권 문제는 더욱 복잡해질 것"이라고 진단했다.

■규제만으론 해결 안 돼…정부·기업 대책 마련

생성 AI 사용법을 두고 각국의 고민이 깊어지고 있다. 규제 움직임도 활발하다.

유럽연합(EU)은 지난 2021년 세계 최초로 'AI 법안(AI Act)'을 제안했다. 고위험AI를 중심으로 공급자 의무 부과, 적합성 평가 및 인증 등 규제를 선도하겠다는 목표다. 영국 정부도 최근 AI백서를 발간하고, AI 활용방식에 맞춘 상황별 접근방식을 마련하라고 규제당국에 촉구했다.

하지만 규제 등 법만으로는 문제를 해결할 수 없다는 회의적인 시각도 나온다. 기술발전 속도가 매우 빨라 모든 케이스를 다 포함할 수 없을 뿐 아니라 자칫하다간 AI 기술패권에서 자국 기업들이 뒤처질 수 있기 때문이다.

이에 AI를 개발하고 사용하는 데 있어 필요한 윤리인 'AI윤리'를 확립하기 위한 움직임도 빨라지고 있다. 국내에서도 AI 신뢰성을 확보하기 위한 노력이 진행되고 있다. 과학기술정보통신부는 지난해 AI 인공지능 윤리정책 포럼을 출범시켰다. 이는 AI의 윤리적 개발과 활용을 위한 논의를 촉진하기 위해 AI, 윤리, 교육, 법제도, 공공 등 다양한 분야의 각계 전문가가 참여한 포럼으로, AI 윤리 문제에 대해 논의하고 있다.

기업 차원의 AI윤리 확립을 위한 시도도 있다. 대표적으로 초대규모 AI '하이퍼클로바'를 개발 중인 네이버는 2021년 AI윤리준칙을 발표한 바 있다. AI윤리준칙은 네이버의 모든 구성원이 AI 개발과 이용에 있어 준수해야 하는 원칙으로 △사람을 위한 AI 개발 △다양성의 존중 △합리적인 설명과 편리성의 조화 △안전을 고려한 서비스 설계 △프라이버시 보호와 정보 보안의 총 5개 조항으로 구성돼 있다.