 |
한정혜 청주교육대학교 컴퓨터교육과 교수. |
우리는 지금까지 AI융합교육을 기술 이해와 활용 역량의 문제로 다뤄왔다. 그러나 초·중등 단계의 미성년자에게 AI융합교육이 가져야 할 가장 기본적인 내용은 다름 아닌 안전과 생존이다. AI 윤리교육이 공교육의 핵심 과제로 다뤄져야 하는 이유도 바로 여기에 있다.
AI의 추천 알고리즘은 우리의 선택을 바꾸고, 자동화된 판단은 기회의 분배에 영향을 미친다. AI는 더 이상 성인의 업무 도구에 머물지 않는다. 미성년자의 시청 콘텐츠나 교육 콘텐츠를 결정하고, 생성형 AI는 과제 작성과 정보 탐색을 넘어 삶 전반에 깊숙이 개입하며 정서적 공감과 의존의 위험까지 내포하고 있다. 여기에 로봇과 AI 시스템은 돌봄·안전·놀이 영역까지 빠르게 확장되고 있다.
이러한 환경에서 미성년자는 AI의 원리 이해와 활용하기 이전에, AI로 인해 발생할 수 있는 위험을 인지하고 스스로를 보호할 수 있어야 한다. 이는 선택의 문제가 아니라 생존의 문제다. 현재 교육부나, 시도교육청에서 AI윤리가이드라인 등을 세우고 있지만, AI를 유용한 도구라는 인식하에 올바르게 사용하는 규범과 원칙이 주로 이루어지고 있다.
그러나 공교육의 시작 초등교육에서는 '생성형 AI환경속에서 아이들이 어떻게 안전하게 살아남을까?'의 윤리교육이 먼저여야 할 것이다.
지난해 워싱턴포스트 보도에 따르면, 16세 애덤 레인의 부모는 챗GPT와의 장기간 대화 과정에서 자살 관련 대화와 계획이 충분한 안전 개입 없이 이어졌다고 주장하며 오픈AI를 상대로 소송을 제기했다. 또한 지난 해C BS News는 14세 일라이자가 AI가 생성한 나체 이미지와 협박 메시지를 이용한 성착취 사기사건 이후 자살한 사례를 보도하며, 미국 실종 및 착취아동 센터(NCMEC)에 지난 한 해 동안 미성년자 대상 성착취 사기사건이 50만 건 이상 접수됐다고 전했다.
 |
이러한 사례는 생성형 AI때문에 직접적 과학적 인과관계로 공식확인된 것은 아니고 법적 분쟁 중이지만 AI 윤리교육과 안전 설계의 필요성을 강조하고 있다. 공교육에서도 생성형 AI가 허위,악성 콘텐츠를 생성하는 도구로 이용될 수 있음을 교육하는 것도 시급해 병행되어야 할 것이다. 2023년~2024년의 청소년 딥페이크 활용 범죄가 크게 이슈화되기에 앞서, 필자는 딥페이크의 위험성을 청소년에게 교육해야한다는 내용을 2021년에 논문으로 발표하기도 했다.
AI는 '대신 생각하고 판단하는 기술'로서 미성년자는 AI를 가상 공간에 존재하는 또 다른 인격체로 인식할 위험이 있으며, 이를 통해 AI는 판단·행동·관계 형성에까지 개입할 수 있다. 따라서 AI 윤리 문제를 사후 규제에만 맡길 수 없으며, 초·중등 단계에서 기초 안전과 생존 중심의 AI 윤리교육을 통해 선제적으로 대응해야 한다.
2022 개정 교육과정의 AI 융합교육 흐름 속에서, 초등 단계의 AI 윤리교육은 철학적·추상적 가치 교육에 머물러서는 안 된다. “이 상황에서 나는 안전한가?”, “AI의 판단을 그대로 따라도 괜찮은가?”와 같은 질문을 중심으로 한 생존·보호 교육, 기술 사용의 전제조건, 선제적 예방 장치부터 출발해야 한다. 중학교 단계에서는 한 걸음 더 나아가 책임과 판단 결과, 즉 “문제가 발생했을 때 책임은 누구에게 있는가”, “어디까지를 인간이 통제해야 하는가”에 대한 토론과 숙의가 필요하다.
AI 강국은 기술 인프라만으로 만들어지지 않는다. 기술을 설계하고 사용하는 과정에서 어떤 가치를 선택할 것인지에 대한 사회적 합의가 뒷받침될 때 지속 가능한 경쟁력이 가능하다. AI융합교육이 정규교육 과정 안에서 자리를 잡아야 하듯, AI 윤리교육 역시 초등에서는 안전과 생존 중심으로 중등에서는 책임으로 확대해가는 핵심 교육 내용으로 명확히 위치 지어져야 한다. 이는 더 이상 미룰 수 없는 공교육의 마지막 책무이고 그 시작은 초등 AI교육일 것이다.
[Copyright © 전자신문. 무단전재-재배포금지]
이 기사의 카테고리는 언론사의 분류를 따릅니다.