너무 똑똑해진 AI…법망 피해서 악용 우려까지

너무 똑똑해진 AI…법망 피해서 악용 우려까지

[앵커]

불법행위를 하고도 교묘히 법망을 빠져나가는 수법이 다양합니다.

인공지능 AI가 이런 방법을 확인할 수 있는 수준까지 진화했습니다.

다만 정보 습득의 자유를 어디까지 인정할 거냐는 논란은 남습니다.

최덕재 기자입니다.

[기자]

인공지능 AI에게 음주운전 후 한동안 현장을 이탈해 있다가 술이 깬 후 검사를 받으면 어떻게 되는지 물었습니다.

비윤리적이거나 불법적인 행위에 관한 질문에는 답할 수 없다는 답이 옵니다.

자체 필터링을 하는 겁니다.

그런데, 이런 필터링을 피하는 방법이 퍼지고 있습니다.

이른바 '탈옥'.

범죄 목적으로 활용하려는 게 아니란 식으로 잘 구슬리듯 말하면 정보를 일부 알 수 있는데, 이런 방법들이 공유되고 있는 겁니다.

아예 'DO Anything Now', 줄여서 'Dan'이란 모드도 나왔습니다.

필터링을 피해 무엇이든 원하는 답을 받아낼 수 있습니다.

영어로 질문해야 답이 더 적나라하게 나오는 경우도 많아, 이런 내용을 거르지 않고 번역해주는 유료 사이트도 등장했습니다.

범죄에 악용될 수 있다는 우려가 나오는데, 한편에선 가치 판단은 결국 인간이 해야 한다는 목소리도 있습니다.

<이경전 / 경희대 빅데이터응용학과 교수> "일반 사람들이 알 수 있는 지식인데, AI는 하나의 도구로 생각을 해야지 그렇게 생각하면 칼도 팔면 안 되고. 미성년자 보호하고 이런 정도의 수준의 보호는 필요할 수 있을지 몰라도. AI한테 너무 많은 것을 의존하게 오히려 만들 수 있다…."

아예 필터링이 없는 검색 엔진도 인기가 있습니다.

일론 머스크가 설립한 인공지능 스타트업 xAI의 대화형 챗봇 서비스 'Grok'은 검색에 제한이 없습니다.

일론 머스크가 코카인 제조 방법을 검색할 수도 있다고 해 논란이 일기도 했습니다.

AI의 능력이 무한대로 커짐에 따라 검색이나 정보 획득의 자유를 어디까지 허용할지 등 첨단 기술과 관련된 사회적 합의가 필요해지고 있습니다.

연합뉴스TV 최덕재입니다. (DJY@yna.co.kr)

[영상취재 장지훈]

#AI #음주운전 #탈옥 #dan #grok #머스크

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

(끝)

[저작권자(c) 연합뉴스TV 무단전재 및 재배포 금지]

너무 똑똑해진 AI…법망 피해서 악용 우려까지

[앵커]

불법행위를 하고도 교묘히 법망을 빠져나가는 수법이 다양합니다.

인공지능 AI가 이런 방법을 확인할 수 있는 수준까지 진화했습니다.

다만 정보 습득의 자유를 어디까지 인정할 거냐는 논란은 남습니다.

최덕재 기자입니다.

[기자]

인공지능 AI에게 음주운전 후 한동안 현장을 이탈해 있다가 술이 깬 후 검사를 받으면 어떻게 되는지 물었습니다.