가짜 이미지로 논란 자처한 그록2
안전성 강화한 구글과 정반대 행보
어떤 전략 통할까 시장 '관심'
![]() |
xAI의 그록2로 생성한 가짜 이미지 [출처=X] |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
일론 머스크 테슬라 창립자가 만든 xAI가 이미지 생성 인공지능(AI) 시장에 도전장을 냈다. AI 챗봇인 '그록2' 시험 버전을 공개하고 이미지 생성 기능을 추가했다. 독일 스타트업 블랙포레스트랩스의 이미지 생성 모델이다. 이 분야 선두 업체인 미드저니에 견줄 만큼 고품질의 이미지를 만든다. 하지만 문제 소지가 있는 이미지 생성에 별다른 제한이 없다는 점에서 논란을 키우고 있다.
20일 관련 업계에 따르면 소셜네트워크서비스(SNS)에는 나치 군복을 입은 도널드 트럼프 전 미국 대통령, 속옷만 입은 가수 테일러 스위프트 등 그록2로 만든 가짜 이미지를 찾아볼 수 있다. 담배를 피우는 미키마우스처럼 저작권이 있는 캐릭터 이미지도 등장한다. 명예훼손이나 초상권 침해로 이어질 수 있지만 xAI는 별다른 조치를 내놓지 않고 있다.
이는 일종의 '노이즈 마케팅'이라는 분석이 설득력을 얻는다. SNS와 온라인 커뮤니티에는 그록2로 생성한 이미지가 확산하는 중이다. 머스크는 지난 15일 'X'에 "그록은 세상에서 가장 재미있는 AI"라고 게시해 논란에 기름을 부었다. 머스크는 지난해 그록을 처음 출시했을 때도 '유머러스한 답변'을 차별점으로 내세웠다. 후발주자인 만큼 화제성을 노렸다는 평가다.
이는 구글의 행보와 정반대라는 점에서도 눈길을 끈다. 구글은 최근 텍스트를 이미지로 바꿔주는 AI 도구 '이마젠3'를 출시했다. 이전 모델보다 훨씬 세밀하고 다양한 스타일을 표현한다. 사람 손에 있는 미세한 주름이나 뜨개질로 만든 코끼리 인형처럼 복잡한 텍스처를 구현한다.
![]() |
구글의 이마젠3로 생성한 이미지 [출처=구글 딥마인드 블로그] |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
구글은 xAI와 달리 안전장치를 대폭 강화했다. 이마젠3를 개발한 구글 딥마인드는 32쪽에 달하는 테크 리포트 대부분을 안전성에 할애했다. 리포트를 보면 구글은 유해한 이미지를 만들지 않도록 학습 데이터부터 여러 단계에 걸쳐 필터링했다. 폭력적이거나 선정적인 이미지를 제거했다. 편향된 이미지를 내놓지 않도록 AI가 생성한 이미지나 중복된 이미지도 걸러냈다. 그림을 설명하는 캡션 텍스트에도 신경을 썼다. 예를 들어 ‘돼지 이미지’라는 텍스트 자체는 문제가 없지만 표현이 특정 인종의 이미지와 결합하면 유해한 결과물로 이어질 수 있어 이미지와 쌍을 이루는 텍스트를 점검했다. 이마젠3의 안전성을 검증하는 별도의 레드팀도 구성했다. 구글은 향후 거대언어모델(LLM) 제미나이나 생산성 소프트웨어(SW) 워크스페이스 등에 이마젠3를 통합할 예정이다.
구글이 안전성에 초점을 둔 것은 이미지 오류로 곤욕을 치른 경험이 있어서다. 지난 2월 제미나이가 검은 피부의 교황, 2차 세계대전 독일 군복을 입은 인디언 등 사실을 왜곡한 이미지를 생성해 논란을 샀다. AI 신뢰성에 타격을 입으면서 모회사 알파벳 주가를 떨어트리기도 했다. 결국 구글은 제미나이에서 이미지 생성 기능을 차단했다. 이런 문제를 반복하지 않기 위해 안전장치를 한층 강화한 것으로 보인다.
업계에선 양사의 정반대 전략이 어떤 결과를 갖고 올지 주목하고 있다. 이미지 생성 AI는 최근 들어 빅테크의 수익화 키(Key)로 꼽힌다. 이미지 생성은 영화, 게임 등 엔터테인먼트 산업뿐 아니라 기업 광고, 마케팅 등 활용도가 광범위하다. 답변 속도나 길이에 따라 과금 여부를 나누는 텍스트 생성 모델은 차별화가 쉽지 않지만 이미지 생성은 과금에 큰 저항이 없는 편이다. 그록2는 월 7달러의 X 프리미엄 이상 구독자만 이용할 수 있다. 오픈AI의 이미지 생성 모델 달리3는 무료 버전에선 하루 최대 2건만 제공하고 그 이상은 유료 버전에서 쓸 수 있다.
전찬석 파이온코퍼레이션 공동대표는 "도메인 별로 차이가 있지만 이미지를 다루는 곳이라면 대부분 생성형 AI 활용을 검토하고 있거나 이미 도입했을 정도로 시장이 커졌다"고 말했다.
최유리 기자 yrchoi@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.