<앵커>
친절한 경제, 권애리 기자 나와 있습니다. 인공지능 챗GPT 소식이군요. 이 챗GPT를 만든 사람들이 인공지능의 부작용을 막기 위해서 국제기구를 만들자고 제안했다고요?
<기자>
어제(23일)도 미 국방부 청사에 AI가 합성한 폭발 사진, 가짜 사진이 돌면서 한때 뉴욕 증시까지 출렁여서 우리 특파원도 보도해 드렸잖아요.
그런데 마침 어제 챗GPT를 만든 오픈AI의 최고 경영자들과 수석 과학자가 이런 제안문을 올렸습니다.
AI의 개발을 핵연료의 개발이나 생명공학의 개발에 비유하면서 AI에도 국제원자력기구 같은 사찰기구, 감시기구가 필요하다고 제안한 겁니다.
지난해 11월에 챗GPT3.5가 출시된 후로 인공지능의 시대가 성큼 앞당겨졌죠.
그야말로 전 세계에 충격을 던졌는데, 정작 이런 충격을 던진 사람들이 "이거 그냥 이대로 흘러가게 두면 안 된다. 핵이나 생명공학처럼 개발을 통제하고 감시해야 한다"고 나선 겁니다.
제안한 감시방법이 상당히 구체적이고 강제적입니다.
해마다 인공지능이 발전할 수 있는 속도를 일정하게 제한시키자, 몰래 숨어서 인공지능을 지나치게 발전시키는 데가 없는지 사찰을 할 수 있어야 한다는 겁니다.
이를테면 지금은 북한이 아예 핵을 갖겠다고 선언해 버리고 핵 실험을 거듭하면서 국제 제재를 받고 있지만요.
세계원자력기구 IAEA에 핵 사찰을 허용하고 핵을 포기하는 모양새를 취한 적도 있습니다.
바로 그 세계원자력기구처럼 국경을 초월해서 공신력을 갖는 감사기구, 사찰기구를 창설하자는 겁니다.
영화 속의 악당 과학자 같은 사람 몰래 AI를 지나치게 개발해서 세상에 해를 끼치는 사람이 나타날 가능성을 차단할 방법을 세상이 갖고 있어야 한다는 거죠.
<앵커>
인공지능이 발달하면 발달할수록 이렇게 걱정과 우려도 커지는 것 같습니다. 최근에 인공지능 개발의 선구자로 꼽히는 개발자도 여기에 평생을 바친 걸 후회한다고 했죠.
<기자>
제프리 힌튼 박사가 AI 개발에 바친 내 평생을 일부 후회한다고 하면서 구글의 부사장직을 포기해서 큰 화제가 됐는데요.
이 제프리 힌튼 박사가 어떤 사람이냐, 딥러닝 많이 들어보셨죠.
그동안 인간이 쌓아온 정보를 AI가 학습하는 경로를 처음 만들었던 바로 그 사람입니다.
문자 그대로 인공지능의 아버지고 챗GPT를 만든, 방금 살펴본 OPENAI의 수석과학자가 이 사람 수제자입니다.
그런 힌튼 교수가 "기후변화보다도 이게 더 시급하게 막아야 할 문제다. AI 때문에 진짜와 가짜를 구분할 수 없는 세상이 오고 있고, 사람들이 일자리를 잃을 거"라면서 이런 얘기를 자유롭게 하고 싶다고 지난달 말에 구글을 떠났습니다.
2차 대전 당시에 미국의 핵무기 개발을 주도했던 오펜하이머 박사가 정작 미국이 실제 원자폭탄을 사용하는 걸 보고 나서 딱 이런 비슷한 얘기들을 했죠.
최근에 챗GPT 같은 챗봇 바드를 내놓으면서 AI 경쟁에 뛰어든 구글은 힌튼 박사의 퇴사에 대해서는 별다른 공식 입장을 내지 않았지만요.
역시 어제 세계 각국은 AI에 대해서 이런 정책들을 만들어 달라면서 일종의 권고안을 발표했습니다.
AI의 경제적인 효과에 대해서 먼저 얘기하고 있지만, 인공지능의 오남용 가능성도 언급하면서 역시 국제기구를 만드는 방법을 제안하고 있습니다.
<앵커>
다른 사람도 아니고 인공지능 개발의 최전선에 있는 사람들이 이런 목소리를 내니까 좀 더 우려가 되는 것 같습니다.
<기자>
그렇습니다. 이들이 걱정하는 건 크게 두 가지입니다.
첫 번째로는 초지능의 출현, 인간의 지능을 훨씬 뛰어넘어서 문제들을 알아서 스스로 해결하는 슈퍼지능의 출현을 걱정하고 있는 겁니다.
챗GPT 개발사는 이대로면 먼 미래도 아니고 10년 안에 인공지능이 거의 모든 분야에서 전문가 수준을 뛰어넘을 수 있다.
그런 고도의 발달은 막자고 말하고 있습니다.
최근에 마이크로소프트도 이런 초지능의 출현이 가까워졌다는 보고서를 낸 적이 있습니다.
또 하나는 힌튼 박사가 지적한 참과 거짓을 구별할 수 없는 세상 AI가 만든 가짜가 판치고, AI 때문에 기존의 사회적인 편견이나 차별이 더 굳어지는 세상입니다.
누군가 AI를 악용해서 대혼란을 불러일으키는 게 상상도 못 할 일이 아니라는 겁니다.
원자력이나 생명공학이나 여전히 논란의 대상이죠.
할 수 있는 걸 모두 할 수 있게 내버려 둔다면 큰 문제들이 생길 수 있는 분야들인데, 지금 세계적으로 제한을 걸어놓고 인류에게 이롭고 필요하다고 생각되는 부분만 개발해서 쓰려고 하고 있습니다.
인공지능에 대해서도 그 정도의 제어가 필요하다, 이런 얘기가 지금 인공지능 개발의 최전선에 있는 사람들에게서 동시에 터져 나오고 있는 이유를 깊이 생각할 필요가 있어 보입니다.
권애리 기자(ailee17@sbs.co.kr)
▶ 네이버에서 SBS뉴스를 구독해주세요!
▶ 가장 확실한 SBS 제보 [클릭!]
* 제보하기: sbs8news@sbs.co.kr / 02-2113-6000 / 카카오톡 @SBS제보
※ ⓒ SBS & SBS Digital News Lab. : 무단복제 및 재배포 금지
친절한 경제, 권애리 기자 나와 있습니다. 인공지능 챗GPT 소식이군요. 이 챗GPT를 만든 사람들이 인공지능의 부작용을 막기 위해서 국제기구를 만들자고 제안했다고요?
<기자>
어제(23일)도 미 국방부 청사에 AI가 합성한 폭발 사진, 가짜 사진이 돌면서 한때 뉴욕 증시까지 출렁여서 우리 특파원도 보도해 드렸잖아요.
그런데 마침 어제 챗GPT를 만든 오픈AI의 최고 경영자들과 수석 과학자가 이런 제안문을 올렸습니다.
AI의 개발을 핵연료의 개발이나 생명공학의 개발에 비유하면서 AI에도 국제원자력기구 같은 사찰기구, 감시기구가 필요하다고 제안한 겁니다.
지난해 11월에 챗GPT3.5가 출시된 후로 인공지능의 시대가 성큼 앞당겨졌죠.
그야말로 전 세계에 충격을 던졌는데, 정작 이런 충격을 던진 사람들이 "이거 그냥 이대로 흘러가게 두면 안 된다. 핵이나 생명공학처럼 개발을 통제하고 감시해야 한다"고 나선 겁니다.
제안한 감시방법이 상당히 구체적이고 강제적입니다.
해마다 인공지능이 발전할 수 있는 속도를 일정하게 제한시키자, 몰래 숨어서 인공지능을 지나치게 발전시키는 데가 없는지 사찰을 할 수 있어야 한다는 겁니다.
이를테면 지금은 북한이 아예 핵을 갖겠다고 선언해 버리고 핵 실험을 거듭하면서 국제 제재를 받고 있지만요.
세계원자력기구 IAEA에 핵 사찰을 허용하고 핵을 포기하는 모양새를 취한 적도 있습니다.
바로 그 세계원자력기구처럼 국경을 초월해서 공신력을 갖는 감사기구, 사찰기구를 창설하자는 겁니다.
영화 속의 악당 과학자 같은 사람 몰래 AI를 지나치게 개발해서 세상에 해를 끼치는 사람이 나타날 가능성을 차단할 방법을 세상이 갖고 있어야 한다는 거죠.
<앵커>
인공지능이 발달하면 발달할수록 이렇게 걱정과 우려도 커지는 것 같습니다. 최근에 인공지능 개발의 선구자로 꼽히는 개발자도 여기에 평생을 바친 걸 후회한다고 했죠.
<기자>
제프리 힌튼 박사가 AI 개발에 바친 내 평생을 일부 후회한다고 하면서 구글의 부사장직을 포기해서 큰 화제가 됐는데요.
이 제프리 힌튼 박사가 어떤 사람이냐, 딥러닝 많이 들어보셨죠.
그동안 인간이 쌓아온 정보를 AI가 학습하는 경로를 처음 만들었던 바로 그 사람입니다.
문자 그대로 인공지능의 아버지고 챗GPT를 만든, 방금 살펴본 OPENAI의 수석과학자가 이 사람 수제자입니다.
그런 힌튼 교수가 "기후변화보다도 이게 더 시급하게 막아야 할 문제다. AI 때문에 진짜와 가짜를 구분할 수 없는 세상이 오고 있고, 사람들이 일자리를 잃을 거"라면서 이런 얘기를 자유롭게 하고 싶다고 지난달 말에 구글을 떠났습니다.
2차 대전 당시에 미국의 핵무기 개발을 주도했던 오펜하이머 박사가 정작 미국이 실제 원자폭탄을 사용하는 걸 보고 나서 딱 이런 비슷한 얘기들을 했죠.
최근에 챗GPT 같은 챗봇 바드를 내놓으면서 AI 경쟁에 뛰어든 구글은 힌튼 박사의 퇴사에 대해서는 별다른 공식 입장을 내지 않았지만요.
역시 어제 세계 각국은 AI에 대해서 이런 정책들을 만들어 달라면서 일종의 권고안을 발표했습니다.
AI의 경제적인 효과에 대해서 먼저 얘기하고 있지만, 인공지능의 오남용 가능성도 언급하면서 역시 국제기구를 만드는 방법을 제안하고 있습니다.
<앵커>
다른 사람도 아니고 인공지능 개발의 최전선에 있는 사람들이 이런 목소리를 내니까 좀 더 우려가 되는 것 같습니다.
<기자>
그렇습니다. 이들이 걱정하는 건 크게 두 가지입니다.
첫 번째로는 초지능의 출현, 인간의 지능을 훨씬 뛰어넘어서 문제들을 알아서 스스로 해결하는 슈퍼지능의 출현을 걱정하고 있는 겁니다.
챗GPT 개발사는 이대로면 먼 미래도 아니고 10년 안에 인공지능이 거의 모든 분야에서 전문가 수준을 뛰어넘을 수 있다.
그런 고도의 발달은 막자고 말하고 있습니다.
최근에 마이크로소프트도 이런 초지능의 출현이 가까워졌다는 보고서를 낸 적이 있습니다.
또 하나는 힌튼 박사가 지적한 참과 거짓을 구별할 수 없는 세상 AI가 만든 가짜가 판치고, AI 때문에 기존의 사회적인 편견이나 차별이 더 굳어지는 세상입니다.
누군가 AI를 악용해서 대혼란을 불러일으키는 게 상상도 못 할 일이 아니라는 겁니다.
원자력이나 생명공학이나 여전히 논란의 대상이죠.
할 수 있는 걸 모두 할 수 있게 내버려 둔다면 큰 문제들이 생길 수 있는 분야들인데, 지금 세계적으로 제한을 걸어놓고 인류에게 이롭고 필요하다고 생각되는 부분만 개발해서 쓰려고 하고 있습니다.
인공지능에 대해서도 그 정도의 제어가 필요하다, 이런 얘기가 지금 인공지능 개발의 최전선에 있는 사람들에게서 동시에 터져 나오고 있는 이유를 깊이 생각할 필요가 있어 보입니다.
권애리 기자(ailee17@sbs.co.kr)
▶ 네이버에서 SBS뉴스를 구독해주세요!
▶ 가장 확실한 SBS 제보 [클릭!]
* 제보하기: sbs8news@sbs.co.kr / 02-2113-6000 / 카카오톡 @SBS제보
※ ⓒ SBS & SBS Digital News Lab. : 무단복제 및 재배포 금지
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
<앵커>
친절한 경제, 권애리 기자 나와 있습니다. 인공지능 챗GPT 소식이군요. 이 챗GPT를 만든 사람들이 인공지능의 부작용을 막기 위해서 국제기구를 만들자고 제안했다고요?
<기자>
어제(23일)도 미 국방부 청사에 AI가 합성한 폭발 사진, 가짜 사진이 돌면서 한때 뉴욕 증시까지 출렁여서 우리 특파원도 보도해 드렸잖아요.
그런데 마침 어제 챗GPT를 만든 오픈AI의 최고 경영자들과 수석 과학자가 이런 제안문을 올렸습니다.
친절한 경제, 권애리 기자 나와 있습니다. 인공지능 챗GPT 소식이군요. 이 챗GPT를 만든 사람들이 인공지능의 부작용을 막기 위해서 국제기구를 만들자고 제안했다고요?
<기자>
어제(23일)도 미 국방부 청사에 AI가 합성한 폭발 사진, 가짜 사진이 돌면서 한때 뉴욕 증시까지 출렁여서 우리 특파원도 보도해 드렸잖아요.
그런데 마침 어제 챗GPT를 만든 오픈AI의 최고 경영자들과 수석 과학자가 이런 제안문을 올렸습니다.
