“마감일 맞추려 밀어붙인 내 잘못” AI 디자인 서비스 중단된 사연

피그마의 ‘메이크 디자인’ 기능을 통해 만든 날씨 앱 디자인이 애플 기기에서 제공하는 날씨 앱과 유사하다고 지적하는 이용자의 엑스 글 캡처. 왼쪽이 애플 날씨 앱이고 나머지가 메이크 디자인 기능이 만들어낸 초안이다.

“궁극적으로 더 나은 품질보증(QA) 과정을 고집하지 않고 콘퍼런스를 위한 마감일에 맞추도록 우리 팀을 강하게 밀어붙인 건 제 잘못입니다.”

디자인 소프트웨어 기업 피그마의 창업자이자 최고경영자(CEO)인 딜런 필드는 지난 2일 엑스(옛 트위터)에 새로 발표한 ‘메이크 디자인’ 기능을 일시 중단한다며 이같이 썼다. 피그마는 디자인 협업 도구로 업계에서 이름난 스타트업이다. 포토샵으로 유명한 어도비가 인수를 시도했을 정도다. 왜 잘나가는 피그마 CEO는 반성의 글을 남겼을까.

피그마는 지난달 26일 연례 디자인 콘퍼런스 ‘컨피그’에서 인공지능(AI)을 적용한 ‘메이크 디자인’ 기능을 소개했다. 사용자가 만들고 싶은 웹페이지나 애플리케이션(앱)에 대해 간단히 설명을 입력하기만 하면 뚝딱 초안을 만들어주는 기능이다. 내년 정식 출시를 목표로 베타 서비스에 나섰다.

하지만 ‘낫 보링 소프트웨어’를 운영하는 앤디 앨런은 1일 엑스를 통해 메이크 디자인 기능이 시중에 나와있는 앱 디자인과 똑닮은 결과물을 만들어낸다고 지적했다. “따분하지 않은 날씨 앱”을 만들어달라고 했더니 애플 기기에서 제공하는 기본적인 날씨 앱 디자인과 거의 유사했다는 것이다. 앨런은 “세 번 시도했지만 결과는 똑같았다”고 했다. 그는 “새 기능을 사용하는 모든 디자이너는 기존 앱을 철저히 확인하거나 결과를 크게 수정해 법적 문제에 휘말리지 않도록 해야 한다”고 전했다.

피그마는 문제를 인정했다. 필드 CEO는 “메이크 디자인 기능은 (빅테크 기업이 만든) 기성품인 거대언어모델(LLM)을 사용하고 우리의 자체 디자인 시스템을 결합한다”며 “이 방식의 문제점은 가변성이 너무 낮다는 것”이라고 말했다. 그러면서 콘퍼런스 시일에 쫓겨 문제점을 제대로 살피지 못했다고 털어놨다. 그는 “전체 품질 검증을 마치면 다시 기능을 활성화할 것”이라고 말했다.

정보기술(IT) 기업들이 설익은 AI 기능 출시로 체면을 구긴 사례는 빈번하다. 남들보다 더 빨리 AI 기술을 선보이려는 욕심이 앞선 것이다. 구글은 AI가 검색 결과를 빠르게 요약해주는 ‘오버뷰’ 기능이 부정확한 답변을 제시한다는 비판에 개선을 약속했다. 마이크로소프트는 AI PC 이용자의 모든 작업 화면을 저장해 언제든 찾아볼 수 있게 하는 ‘리콜’ 기능에 대한 보안 우려가 제기되자 출시를 미뤘다.

오픈AI는 음성 지원이 가능한 새 AI 모델 GPT-4o(포오) 출시를 애초 지난달 말에서 한 달 연기했다. 특정 내용을 감지해 거부하는 기능 등 자체 출시 기준에 도달하려면 시간이 더 필요하다는 이유에서다. 이 모델의 5가지 음성 모드 중 하나가 미국 배우 스칼릿 조핸슨 목소리와 비슷하다는 논란 끝에 해당 음성 사용을 중단하는 일도 있었다.

노도현 기자 hyunee@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ ’5·18 성폭력 아카이브’ 16명의 증언을 모두 확인하세요

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지