오픈AI 내 실패한 쿠데타…미래의 불행일까 행운일까 [탐사보도 뉴스프리즘]

오픈AI 내 실패한 쿠데타…미래의 불행일까 행운일까 [탐사보도 뉴스프리즘]

[오프닝]

안녕하십니까. 이광빈입니다. 우리 사회의 문제점들을 진단하고, 지속가능한 사회를 모색하는 뉴스프리즘 시작합니다. 이번 주 뉴스프리즘이 풀어갈 이슈, 함께 보시겠습니다.

[영상구성]

[이광빈 기자]

한 기업에서 경영권을 놓고 벌어진 '실패한 쿠데타'에 전 세계의 이목이 집중됐습니다. 오픈 AI의 공동창업자인 샘 올트먼 해임사태가 닷새 만에 복귀로 끝났는데요. 생성 AI인 챗GPT 출시 이후 급격한 AI 발전에 흥분한 전 세계에, AI 위험성 논란을 끌어올렸다는 평가입니다. 그간 벌어진 '올트먼 해임사태'의 전말과 자의식을 가진 AI 출현 전망, 이에 대한 대처 등에 대해 살펴보겠습니다. 먼저 황정현 기자입니다.

['올트먼 해임' 사태에 전 세계 촉각…위험성 수면 위 / 황정현 기자]

샘 올트먼의 해임은 갑작스럽게 이뤄졌습니다.

오픈AI 이사회는 올트먼이 회사를 계속 이끌 수 있을지 확신을 갖지 못하고 있고 그가 소통에 솔직하지 않았다며 CEO직에서 해임한다고 밝혔습니다.

일각에선 올트먼이 이사회와 합의 없이 인수합병 등을 논의했다거나 개인사, 비위 탓에 해임됐을 가능성을 제기했습니다.

그러나 궁극적으로는 'AI의 위험성'에 대한 견해차 때문에 벌어진 일이란 분석이 지배적입니다.

<코트니 보넬 / AP통신 기자>

샘 올트먼은 AI 기술의 상용화를 추진해왔지만 이전 이사회는 AI의 안전성에 많은 우려를 가지고 있었습니다.

그간 업계 내부에서는 인공지능의 위험성과 관련한 논쟁이 치열했습니다.

AI의 잠재력에 주목하며 개발에 속도를 내자는 개발론자인 일명 '부머'와 AI 발전이 인류에 끼칠 위협을 우려하는 파멸론자 '두머' 간 갈등이 첨예하게 대립해왔던 겁니다.

올트먼은 두머의 우려에 공감하면서도 업계 경쟁력에서 앞서가기 위해 더 많은 투자금을 끌어모으려 애쓰는 모습을 보였습니다.

반면 빠른 속도로 발전해가는 AI를 염려한 이사회는 이 같은 행보를 보인 올트먼이 못마땅했고, 결국 해임이라는 초강수를 두게 됐습니다.

하지만 이사회의 결단은 예상치 못한 결과를 불러왔습니다.

오픈AI 투자자들이 해임결정을 취소하라며 이사회를 압박하는가 하면 직원의 90%가 올트먼을 다시 데려오지 않으면 퇴사하겠다고 으름장을 놨습니다.

오픈AI 최대 투자자인 마이크로소프트는 올트먼 영입을 공식 발표하기도 했습니다.

압박에 못 이긴 오픈AI는 결국 기존 이사진을 교체하고 올트먼을 다시 영입할 수밖에 없었습니다.

<사라 크렙스/코넬대 교수>

현재 상황을 고려할 때 기술개발 가속화에 찬성하는 지지층이 논쟁에서 승리한 것이죠

다만 올트먼의 복귀가 꼭 두머들의 패배는 아니란 지적도 나옵니다.

AI 위험성 논쟁이 수면 위로 올라오면서 앞으로 AI가 나아가야 할 방향에 대한 전 세계 각국의 고민이 한층 깊어졌기 때문입니다.

연합뉴스TV 황정현입니다

[이광빈 기자]

샘 올트먼의 오픈 AI 복귀로 스스로 생각하고 학습하는 인공지능의 등장이 앞당겨지지 않을까 하는 전망도 있습니다. 인류에게 어떤 영향을 미칠지가 중요할 텐데, 관심은 갖되 지나친 우려는 지양하자는 시각도 있습니다. 최덕재 기자입니다.

['자의식 가진 AI' 등장하나…지나친 우려에 경계도 / 최덕재 기자]

'아티피셜 제너럴 인텔리전스', 줄여서 'AGI'는 스스로 생각하고 학습하고 그 결과물을 재해석해나가는 '범용 인공지능'입니다.

쉽게 말해 '자의식을 가진 인공지능'이라고 볼 수 있는데, 인간의 학습 속도를 아득하게 뛰어넘습니다.

아직 이런 범용 인공지능이 등장했다고 할 만한 명확한 근거는 찾기 어렵지만, '챗GPT'를 세상에 내놓은 샘 올트먼이 본인이 설립한 오픈AI에서 해임됐다 5일 만에 복귀하면서, 범용 인공지능 개발에 박차를 가할 수 있다는 전망도 나옵니다.

또 다른 편에선 이미 범용 인공지능이 등장했다는 시각도 있습니다.

마이크로소프트리서치 연구진은 지난 4월 발표한 논문 '범용 인공지능의 불꽃:GPT4의 초기 실험'에서 이미 GPT4를 범용 AI의 초기 버전이라고 볼 수 있다고 결론 내렸습니다.

어떤 형태로든 언젠가 범용 인공지능이 우리 삶에 직접적인 영향을 미치는 수준이 됐을 때, 문제는 인간에게 이로울 것이냐, 해악을 끼칠 것이냐가 될 수 있습니다.

미래를 상상한 영화들에선 인류를 도와 우주의 침입자와 싸우는 아군으로 묘사되기도 하고, 반대로 인류를 말살하려는 적으로 나오기도 합니다. 물론 양쪽 모두에 무게를 두고 주시할 필요는 있지만, 지금 당장 과도한 우려를 갖는 것은 주의해야 한다는 목소리도 있습니다.

<이경전/경희대 경영학과·빅데이터응용학과 교수>

"우리가 보통 인공지능 하면 또 로봇 하면 다 공상과학 영화에서부터 정보와 감정을 얻은 것이지 교과서나 어떠한 교육을 통해서 이성적이고 합리적이고 과학적인 교육을 통해서 인공지능에 대해서 배우지 않았기 때문에 당연히 그런 두려움을 갖는 것은 너무나 자연스러운 일인 것 같아요. 인간에게 위협이 될 수 있다 이렇게 설명을 하기도 하는데 입증도 못하고 논리적으로 설명도 못하고 있다…"

피할 수 없는 기술의 발전.

전쟁과 환경 파괴, 질병, 불평등 같은 인류가 직면한 문제들을 해결하는 데 기술의 진보를 활용하는 방안을 더 적극적으로 모색해야 할 필요도 있습니다.

연합뉴스TV 최덕재입니다.

#자의식 #AGI #올트먼 #오픈AI #챗GPT #인공지능 #미래

[코너 : 이광빈 기자]

세계 최초로 로봇이라는 용어와 개념은 100여 년 전인 1920년에 나왔습니다. 체코 극작가 카렐 차페크의 창작 희곡 '로숨의 유니버설 로봇'이 출발점인데요. 로봇은 체코어로 '강제 노역'을 뜻합니다. 이 희곡은 인간의 노동과 전쟁을 도맡아온 로봇이 반란을 일으켜 인류가 절멸하는 서사 구조입니다. 자의식과 사랑의 감정을 가진 로봇이 등장하기도 합니다. 로봇에 대한 인류 상상력의 첫 결과물에서 인류 종말의 존재론적 공포가 나타난 겁니다.

자의식을 가진 로봇으로 인해 인류가 절멸할 수 있다는 디스토피아적 공포는 영화 '터미네이터' 등 미디어콘텐츠를 통해 표출돼 왔는데요. 오픈 AI 내 '실패한 쿠데타'에는 이런 인류 절멸의 공포감이 반영된 것으로 보입니다.

AI 개발자와 학자들은 AI로부터 인류 안전을 우선시하는 '파멸론자'와 로봇이 인류를 위협한다는 상상을 망상으로 치부하는 '개발론자'로 나뉩니다. 이런 논쟁에는 대중국 견제론까지 끼어들며 논의가 복잡해지고 있습니다. 중국만 윤리적 규제를 두지 않고 AI를 개발할 경우 서방세계가 위험해진다는 주장입니다. AI 개발에 뒤처진 IT 기득권들이 시간을 벌기 위해 AI 윤리 문제를 제기한다는 비판적인 시선도 있습니다.

일단, AI 규제에 대해선 전 세계적인 논의가 빠르게 이뤄지는 분위기인데요. AI 기술을 악용해 프라이버시 등 인권을 침해한다든가, '가짜뉴스' 등으로 사회를 혼란케 하는 것에 대해선 규제해야 한다는 데 의견이 일치된 상황입니다. 원본 콘텐츠에 대한 저작권이 침해되지 않도록 해 창작자들을 보호해야 한다는 점에서도 공감대가 형성되고 있습니다.

지난 11월 2일에는 AI의 위험에 전 세계 국가가 공동 대응해야 한다는 '블레츨리 선언'이 이뤄졌는데요. 미국과 한국 등 28개국과 유럽연합(EU)이 참가한 가운데 영국에서 열린 '제1차 AI 안전 정상회의' 결과물입니다. 다만, 아직 AI가 자의식을 가질 때에 대한 대비는 없어 보입니다. AI와 관련해 화두는 이제 '특이점'이 언제 오냐입니다. AI가 인간과 같거나 그 이상으로 변하는 순간을 뜻하는데요. 특이점을 막기 위한 규제는 실현 가능하지 않고 과도하다는 지적이 많습니다. 그러나, 특이점이 왔을 때를 기다려 AI 안정성을 확보하기 위해 규제안을 마련하는 것은 뒤늦은 대처로 보입니다.

그러면 국내에선 AI에 대한 규제, 어떻게 되고 있는지 살펴보겠습니다. 국내 관련 업계와 학계에선 AI 산업을 육성하면서도 사회적 기준을 지키게 하기 위해선 가이드라인이 서둘러 만들어져야 한다는 목소리가 커져 왔는데요. 현재 정부는 '디지털 권리장전'을 내놓고. 국회에서는 AI 기본법을 발의한 상태인데, 관련 논의는 답보 상태입니다. 최지원 기자입니다.

[AI 윤리 논의 '개점휴업'…"기본법부터" / 최지원 기자]

지난 9월, 정부는 세계 최초로 디지털 권리장전을 내놓았습니다.

<박윤규/과기부 제2차관>

"국가적 차원의 기준과 원칙을 제시하고 글로벌 논의를 선도할 수 있는 보편적 디지털 질서 규범의 기본 방향을 담은 헌장입니다."

이 헌장은 디지털 세상에서의 자유와 접근성, 다양성 존중과 개인정보 접근 통제권 등을 다룹니다.

"하지만 디지털 권리장전 등 AI 윤리와 관련된 우리 사회 논의는 여전히 멈춰있습니다."

인공지능 등 디지털 기술에 관한 여론 수렴을 위해 만든 '디지털 공론장'은 개점휴업 상태입니다.

조항별로 댓글을 달 수 있게 했지만, 지난 9월 이후로는 새 댓글도 없습니다.

대국민 인식조사도 활성화되어 있지 않습니다.

공론화가 멈춘 동안 'AI 산업 육성 및 안정성 확보를 위한 법률'은 추진력을 잃었습니다.

AI 기본법은 지난 2월 국회 과학기술정보방송통신위원회 법안소위 통과 후 9개월째 표류 중입니다.

전문가들은 무엇보다 법 규제 마련이 시급하다고 입을 모았습니다.

<전창배/국제인공지능윤리협회 이사장>

"제도가 뒷받침되지 않은 인공지능은 굉장히 위험할 수가 있어요. AI 기본법이라고 하는 법과 제도가 하루속히 준비가 돼야지, 안전하고 신뢰할 수 있는 인공지능도 함께 구현이 가능할 겁니다."

다만 AI 기본법안의 규제 조항들을 점검해볼 필요는 있다고 짚었습니다.

최소한의 안전장치 마련이라는 점에서 데이터 보호론에도 입각한 규정들이 필요하다는 지적입니다.

<이광석/서울과기대 IT정책대학원 교수>

"데이터 보호와 관련된 AI 시대를 같이 준비하는 것이 대단히 중요하다. 근본적으로 우리가 검토를 하고 "

AI 기술과 관련 서비스가 폭발적으로 성장하고 있는 만큼, 이에 발맞춰 관련 규제 마련에도 속도를 내야 한다는 지적입니다.

연합뉴스TV 최지원입니다.

#인공지능 #AI기본법 #AI윤리

[클로징: 이광빈 기자]

지난 2004년 개봉한 영화 아이 로봇은 2035년, 인간과 로봇이 함께 살아가는 미래의 모습을 다루고 있습니다. 영화에서 AI 기반의 로봇은 집안일을 대신하고, 무거운 물건을 들어주며 조력자 역할을 하죠. 그러던 중 완벽한 자아를 지닌 형태로 진화한 AI 슈퍼컴퓨터와 인간형 로봇이 원칙을 두고 대립하게 됩니다.

최근 테크업계 달군 오픈 AI의 짧은 쿠데타 스토리도 바로 AI 윤리를 두고 어떤 태도를 취하는지에 따라 대립한 사태인데요. 결과적으로 이사회가 재편되면서 AI 개발론자인 샘 올트먼 최고경영자에게 제동을 걸 장치는 사라진 게 아니냐는 분석이 나옵니다. 자의식을 가진 AI의 출현 시기가 더 빨라진 걸까요? / AI의 발전 속도와 방향을 두고 의견이 분분해도, AI가 인류에 위협이 되어선 안 된다는 데는 공감대가 형성돼 있습니다. 과학기술을 진보시키기 전에 대중과 사회가 변화를 수용할 수 있는 준비가 돼 있어야 한다고 강조했던 호킹 박사의 말을 곱씹을 필요가 있습니다.

이번 주 뉴스프리즘은 여기까지입니다. 시청해주신 여러분 고맙습니다.

#오픈AI #AI윤리 #부머vs두머

PD 김효섭

AD 김희정

(끝)

[저작권자(c) 연합뉴스TV 무단전재 및 재배포 금지]

오픈AI 내 실패한 쿠데타…미래의 불행일까 행운일까 [탐사보도 뉴스프리즘]

[오프닝]

안녕하십니까. 이광빈입니다. 우리 사회의 문제점들을 진단하고, 지속가능한 사회를 모색하는 뉴스프리즘 시작합니다. 이번 주 뉴스프리즘이 풀어갈 이슈, 함께 보시겠습니다.

[영상구성]

[이광빈 기자]

한 기업에서 경영권을 놓고 벌어진 '실패한 쿠데타'에 전 세계의 이목이 집중됐습니다. 오픈 AI의 공동창업자인 샘 올트먼 해임사태가 닷새 만에 복귀로 끝났는데요. 생성 AI인 챗GPT 출시 이후 급격한 AI 발전에 흥분한 전 세계에, AI 위험성 논란을 끌어올렸다는 평가입니다. 그간 벌어진 '올트먼 해임사태'의 전말과 자의식을 가진 AI 출현 전망, 이에 대한 대처 등에 대해 살펴보겠습니다. 먼저 황정현 기자입니다.