시진핑 주석 등 이름 검증없이 올려
일부 연구자도 지적…"의도 미심쩍다"
1일(현지시간) 영국 일간 가디언 등에 따르면 미국 비영리단체 '삶의 미래 연구소(FLI') 주도로 작성돼 지난달 22일 공개된 이 서한에 이름을 올린 1800여명의 서명 중 일부가 이후 '가짜'로 드러났다. 시진핑 중국 국가주석과 페이스북의 모기업 메타 측 수석 과학자 얀 르쿤 등 실제로는 서한 내용에 동의한 적이 없는 인물들의 이름이 올라가 있었다는 것이다. 특히 르쿤의 경우 트위터를 통해 서한의 내용을 지지하지 않는다며 공개적으로 반대 입장을 밝혔다.
인공지능(AI) [이미지출처=연합뉴스] |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
서한 발표에 앞서 서명자의 신원확인 등 검증이 충분히 이뤄지지 않은 탓에 이런 문제가 발생한 것으로 보인다고 가디언은 설명했다. 문제의 서한에는 '챗GPT' 개발사 오픈AI의 최신 거대언어모델(LLM)인 GPT-4를 능가하는 AI 시스템의 개발을 6개월간 중단할 것을 촉구하는 내용이 담겼다. 공동의 안전 협약을 통해 거대 AI가 초래할 수 있는 위험을 인류가 제어할 수 있을 때까지 AI 개발을 멈춰야 한다는 주장이다.
하지만 해당 서한이 최첨단 AI의 위험성을 보이기 위해 인용한 논문과 연구자료의 원저자 일부는 FLI가 이러한 주장을 내놓은 의도가 미심쩍다고 지적했다.
전 구글 직원이자 현재 AI 연구 스타트업 '허깅페이스'에서 수석 윤리 과학자로 일하는 마거릿 미첼은 서한이 개발 중단 대상으로 지목한 'GPT-4를 능가하는 AI'가 구체적으로 무엇인지조차 명시되지 않았다고 꼬집었다. 그는 "이 서한은 많은 수상쩍은 아이디어를 당연한 사실로 간주하면서, FLI 후원자에 이익이 될 우선순위와 AI 관련 이야기를 내세우고 있다"고 비판했다. 문제의 서한에 담긴 내용이 현실로 옮겨진다면 FLI의 주요 후원자인 머스크 재단 측이 상대적으로 이득을 볼 것이란 주장으로 풀이된다.
미첼 외에도 서한에 인용된 연구자료를 작성한 원저자 중 최소 3명이 AI 개발 일시중단에 반대하는 입장을 밝힌 상황으로 전해졌다. 미국 코네티컷 대학의 시리 도리 하코헨 조교수는 "AI는 인간 수준의 지능에 도달하지 않고도 기후변화, 핵전쟁 등 각종 위험을 충분히 악화할 수 있으며 이런 문제는 이미 현실화한 상황"이라며 "이제 와서 GPT-4를 뛰어넘는 AI 개발을 중단하는 건 큰 의미가 없다"고 지적하기도 했다.
이 같은 비판에 FLI 공동설립자 막스 테그마크는 "우리가 누군가를 인용한다고 그들이 서한을 지지한다거나 우리가 그들의 의견에 전적으로 동의한다는 건 아니다"라고 말했다. 특히 "일론 머스크가 경쟁을 늦추려 시도한다고 말하는 이들이 있는 건 정말로 웃기는 일"이라며 머스크는 서한 초안 작성에 관여하지 않았다고 밝혔다.
장희준 기자 junh@asiae.co.kr
<ⓒ경제를 보는 눈, 세계를 보는 창 아시아경제(www.asiae.co.kr) 무단전재 배포금지>
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.