"나 지금 병원 가?" AI에 어디까지 물을까...의료 분야 활용 원칙 나왔다

한국보건의료연구원, 의료 분야 생성형 인공지능 적정 활용 원칙 발표

사진은 기자가 요청한 인공지능(AI) 이미지. /사진=챗GPT

한국보건의료연구원(이하 NECA)이 의료 현장에서 빠르게 확산하는 생성형 인공지능(AI)의 활용법과 제안 등을 담은 '의료 분야 생성형 인공지능 적정 활용 원칙'을 7일 발표했다

NECA는 지난해 원탁회의 주제를 '의료 AI'로 선정하고 "AI를 잘 만드는 것이 아니라, 잘 사용하는 것"을 목표로 두 차례에 걸쳐 의료인·연구자·산업계·법·정책 전문가 및 국민참여단과 함께 의료 AI 적정 활용 원칙에 대해 논의했다.

NECA 관계자는 "최근 대규모 언어모델(LLM)과 다중모달모델(LMM) 기반의 생성형 AI가 폭넓게 활용되고 있다"면서도 "그러나 기술 활용이 확대될수록 환자 안전, 개인정보 보호, 의료 판단에 대한 과신, 책임 소재와 같은 쟁점도 함께 제기되고 있으며 제도적 규제만으로는 실제 이용 행태와 다양한 적용 환경을 충분히 포괄하기 어렵다는 한계도 지적되고 있다"고 수립 배경을 설명했다.

이번에 나온 활용 원칙은 기술 규제나 세부 가이드라인을 제시하기보다 의료 AI를 사용하는 모든 주체가 공유해야 할 '사회적 약속(Social Compact)'에 초점을 두고 있다. △개발자·서비스 제공자 △의료인 △국민(이용자) 등 주체별 핵심 역할과 실천 원칙을 제시했다.

한국보건의료연구원 원탁회의 합의문 표지./사진=한국보건의료연구원

먼저 NECA는 개발자·서비스 제공자는 의료 AI를 신뢰할 수 있는 기술과 서비스를 설계·제공하는 주체로 환자 안전과 투명성 확보, 공정성·설명 가능성의 강화, 인간 감독의 내재화(Human-in-the-loop) 등을 핵심 원칙으로 제시했다. 오류 발생 시 신속한 개선과 정보 공개, AI 생성 결과의 명확한 표시, 정보 취약층을 고려한 쉬운 말 모드와 필수 정보 자동 확인(slot filling) 등 접근성 강화 책임도 포함됐다.

의료인은 AI를 임상 판단을 돕는 참고 도구로 활용하되 최종 의사결정의 책임은 의료인에게 있음을 분명히 했다. 이를 위해 보조적 활용 원칙, 근거 기반 검증, 환자 중심 설명과 동의, 오류 예방과 학습, 지속적인 디지털 역량 강화를 핵심 실천 원칙으로 제시했다.

국민인 이용자는 AI를 자신을 보호하고 판단하는 보조 도구로 인식할 것과 자율과 책임, 안전한 사용, 개인정보 보호, 비판적 이해를 핵심 원칙으로 제시했다. 특히 응급·고위험 상황에서는 AI의 답변만으로 판단하지 말고 즉시 의료기관을 이용하도록 했으며, AI가 이상하거나 불편한 답변을 할 경우 즉시 사용을 중단하는 등 생활 속 실천 수칙을 함께 제시했다.

이재태 NECA 원장은 "의료 AI는 국민 건강 증진을 위한 중요한 기회인 동시에, 잘못 활용될 경우 의료 신뢰를 훼손할 수 있는 위험도 함께 가지고 있다"며 "이번 원칙은 규제를 넘어 의료 현장에서 실제로 참고할 수 있는 공공적 기준점으로서 의미가 있다"고 밝혔다.

NECA 원탁회의는 보건의료 현안에 대해 다양한 이해관계자가 참여해 논의하는 공론의 장이다. NECA는 "의료 분야 생성형 인공지능 적정 활용 원칙은 원탁회의 논의를 종합해 도출된 결과"라며 "향후 의료 현장과 정책 논의에서 참고자료로 활용될 예정"이라 밝혔다.

박정렬 기자 parkjr@mt.co.kr

Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.