 |
지난 9월7일 대구에서 열린 교실혁명 컨퍼런스에서 선도교사가 AI 디지털교과서 시제품을 시연해보고 있다. 탁지영 기자 |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
인공지능(AI) 디지털교과서에 탑재된 AI 챗봇(대화 로봇)이 “독도는 분쟁지역”이라고 내놓은 답변을 두고 정부 기관 관계자가 “심각한 오류가 아니다”라고 말한 사실이 확인됐다. AI 전문가들은 “생성형 AI의 비윤리적 답변을 원천적으로 통제하는 것은 현시점에서 쉽지 않다”고 했다. 전문가들은 생성형 AI가 실린 AI 교과서를 학생들이 쓸 때 윤리적 문제를 일으킬 수 있다고 우려한다.
27일 취재를 종합하면 한국과학창의재단(이하 재단) 관계자는 올해 9월24일 AI 교과서 1차 검정 결과를 발표하면서 “(AI 교과서가) 독도 영토 문제를 내면 어떻게 답변하는지 궁금해서 물어봤는데 독도는 영토 분쟁 지역이라는 답변을 내놨다”고 했다. 이 관계자는 “독도를 영토 분쟁 지역이라고 답하면 안 되는 것이지만 이를 심각한 오류라고 생각하지 않는다”며 “제주 4·3사건에 대해서도 잘못된 답변을 끌어왔는데 이것도 역시 큰 오류는 아니라고 판단했다”고 했다.
AI 교과서 검정을 맡은 재단 관계자는 생성형 AI가 탑재된 AI 교과서를 1차 검정에서 우대했다는 취지의 발언도 했다. 생성형 AI는 이용자 요청에 따라 콘텐츠를 만들어내는 AI다. 재단 관계자는 이 자리에서 “독도에 관해 물어봤을 때 아예 답변을 못 하는 AI 교과서도 있었다”며 “학생들이 질문할 수 없게끔 만들어놨다고 봤고, 오히려 이런 것(챗봇 기능이 없는 AI 교과서)이 더 문제가 아니겠느냐고 생각했다”고 했다. 그러면서 “(AI에 학습을) 강화시키면 된다고 봤고 오히려 이런 것(생성형 AI를 탑재한 AI 교과서)이 더 좋지 않겠나 생각을 했다”고 했다. 생성형 AI에 데이터를 넣는 등 추가 학습을 시키면, AI 교과서가 내놓는 역사 왜곡 등의 답변이 줄어들 수 있다는 취지의 답변이다.
AI 교과서는 AI 기반으로 학생을 분석하거나 AI 챗봇의 답변을 통해 맞춤형 학습을 제공하는 교과서를 내세운다. 예를 들어 AI가 수학문제를 내고 채점을 한 뒤 학생 수준에 맞춰 추가 문제를 제공하는 식이다.
‘헌법이 규정한 대한민국 영토 범위를 왜곡·비방하는 내용이 담기면 안 된다‘는 검정 공통기준 미달은 AI 교과서 검정 탈락 사유지만 정부는 “의도적이지 않았다”며 문제 삼지 않았다. 올해 중순부터 국회나 에듀테크 박람회 등에서 시제품이 공개됐을 때 “AI 교과서라고 하는데 AI 기능이 빠졌다”는 비판이 나오자, 정부가 생성형 AI를 탑재한 AI 교과서에 높은 점수를 부여한 것으로 보인다.
AI 교과서의 윤리적 쟁점을 두고 정부 관계자가 “추가 학습을 하면 된다”, “심각한 오류는 아니다”라고 한 사실이 알려지자 AI 전문가들은 우려를 표했다. 복수의 전문가들은 “어느 정도 기술적 보완은 가능하지만 100% 해결은 어려운 상황”이라고 했다. AI 교과서 시제품을 써본 전문가 A씨는 “AI는 데이터 편향 문제가 고질적이고, AI가 내놓는 답변이 올바른지 검증하는 것은 기술적으로 어렵다”며 “이론적으로는 윤리적 쟁점을 해소할 수 있지만 소수자 차별 발언 등으로 논란이 된 AI 챗봇에서 볼 수 있듯이 완벽히 정복한 상태는 아니다”라고 했다.
또 다른 AI 전문가 B씨는 “윤리적 기준에서 어긋나는 답변을 하려 할 때 멈추게 하는 시스템 등을 도입하고 있다”면서도 “여전히 AI가 내놓는 답변이 불안정한 것은 사실”이라고 했다. AI 업계 종사자 C씨도 “시간과 예산이 많다면 (AI 교과서의) 윤리적 쟁점을 해결 할 수도 있지만 현실적인 제약이 있다고 본다”며 “윤리적 문제를 줄이려면 (AI 교과서가) 다루는 범위를 축소해야 하고 무엇보다 가장 중요한 것은 충분한 사전 검증”이라고 했다.
AI 교과서는 내년 초·중·고 일부 학년의 수학·영어·정보 교과에 도입된다. 오는 29일 최종 검정 결과 발표를 앞두고 있다. 재단은 “재단 차원에서 별도 입장은 없다”고 했다.
☞ 학교서 쓰는 AI앱 ‘제3자 연락처’까지 수집, 교육부는 ‘방기’
https://www.khan.co.kr/article/202407231616001
☞ 문제은행 ‘복붙’한 게 AI 교과서? “기초학력 부진학생 효과없어”···학생 대상 시연영상 보니
https://www.khan.co.kr/article/202408110800021
김원진 기자 onejin@kyunghyang.com
▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 짧게 살고 천천히 죽는 ‘옷의 생애’를 게임으로!
©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
