"날씨 앱 디자인해 준다더니 애플 앱 그대로 모방"... AI 신기능, 또 사고 쳤다

AI 기능 발표 후 표절 등 문제 불거져
오픈AI·구글 등 잇따라 "출시 미룬다"
"경쟁 과열 때문... 이용자 주의 필요"

인공지능(AI)을 시각화한 이미지. 로이터 연합뉴스

지난달 26일(현지 시간) 미국 디자인 소프트웨어 업체 피그마는 생성형 인공지능(AI) 기반 신기능을 발표했다. 피그마는 웹페이지나 모바일 애플리케이션(앱)을 만들 때 가장 많이 쓰이는 디자인 도구를 서비스하고 있는데 "AI를 결합해 이용자가 말로 주문하면 AI가 디자인 초안을 생성하는 시범 서비스를 시작한다"는 내용이었다. 가령 '가게 이름과 위치를 보여 주는 피자찾기 앱을 만들어 줘'라고 명령만 하면 AI가 앱의 전체 형태와 구성 요소를 몇 초 만에 제작해 주는 식이었다.

AI 서비스 중단... "품질 보증 없이 공개 잘못"

그러나 일주일 만인 2일, 피그마는 해당 서비스 제공을 중단했다. "피그마 AI에 날씨 앱 제작을 맡겼더니 애플의 날씨 앱과 거의 똑같은 디자인을 반복적으로 만들어 냈다"는 스타트업 보어링소프트웨어의 창업자 앤디 앨런의 폭로가 나온 탓이다. 이후 디자이너들 사이에서 '피그마 AI를 썼다가 표절 시비에 휘말릴 수 있다'는 우려가 커졌고, 딜런 필드 피그마 최고경영자는 "결과물을 보장할 수 있다는 확신이 들 때까지 (AI 디자인 생성 기능을) 비활성화한다"고 밝혔다. 그는 "행사일에 맞추기 위해 엄격한 품질 보증을 거치지 않고 서둘러 공개한 나의 과실"이라고 반성했다.

피그마처럼 야심 차게 선보인 AI 신기능에 문제가 드러나 서비스 출시를 미루는 사례가 최근 미국 실리콘밸리에서 잇따르고 있다. 타사보다 기술력이 뛰어나다는 것을 과시하기 위해 설익은 서비스를 무리하게 공개했다가 되레 논란만 낳고 있다는 얘기다.

애플리케이션(앱) 개발자 앤디 앨런이 피그마 AI의 문제점을 정리한 엑스(X) 게시물. 말로 주문하면 앱 디자인 초안을 만들어 주는 피그마 AI에 날씨 앱 제작을 주문했더니, 애플의 날씨 앱과 거의 비슷한 디자인을 반복적으로 생성했다고 앨런은 지적했다. 앤디 앨런 엑스 캡처

MS도, 구글도... 설익은 AI 내놨다 '구설'

오픈AI가 새 AI 모델 'GPT-4o'의 음성 기능 출시를 연기하기로 한 게 대표적이다. 이 회사는 지난 5월 영화 '그녀' 속 AI 사만다처럼 자연스럽게 음성 대화를 주고받을 수 있는 GPT-4o를 기습 공개해 큰 화제를 모았다. 그러나 일주일여 만에 사만다의 목소리를 연기했던 배우 스칼릿 조핸슨이 "GPT-4o의 목소리가 내 목소리와 너무 닮았다"며 문제 제기를 했고, 오픈AI는 해당 목소리 지원을 중단했다.

구글도 마찬가지다. 오픈AI의 GPT-4o 공개 이튿날 "구글 검색에 생성형 AI를 결합한다"고 발표한 뒤, 미국 지역에서 AI 검색 기능을 출시했으나 "AI가 사실이 아닌 것을 사실인 양 답한다"는 지적이 잇따르자 서비스를 축소했다. 같은 달 마이크로소프트(MS) 역시 이용자가 열었던 화면을 AI가 모두 기억하고 있다가 특정 정보를 찾을 수 있도록 도와주는 신기능(리콜)을 내놨지만, 정식 출시를 무기한 연기했다. 공개 후 이 기능을 두고 '개인정보 유출 가능성이 크다'는 비판이 제기됐기 때문이다.

테크업계에서는 AI의 안정성보다는 개발 속도를 우선시하는 분위기 탓에 이러한 일이 반복되고 있다는 지적이 나온다. 테크전문매체 테크크런치는 "(업체들이) 새로운 AI 기능을 서둘러 출시하는 과정에서 당연히 수반돼야 하는 품질 보증 작업을 간과한 것 같다"고 전했다. 피그마 AI의 애플 표절 문제를 고발한 앨런은 "AI 신기능을 철저히 검증하지 않고 사용할 경우 이용자 본인이 법적 문제 등에 빠지게 될 것"이라며 지나친 신뢰를 경계할 것을 주문했다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com