[단독]"환자 사망 위험" 미리 알려준다던 AI…의사보다 예측 못 했다

입원 환자의 심정지·사망 위험을 예측하는 의료 인공지능(AI) 솔루션의 성과가 의사가 한 것에 비해 낮다는 연구결과가 나왔다. 의료 AI 성능에 대한 맹목적인 신뢰를 경계해야 한다는 지적도 나온다.

국민건강보험 일산병원은 29일 '인공지능 프로그램 기반 병원 중증환자관리 평가 지표 및 개선 근거 연구'를 통해 심정지 등 중증 질환 발생을 사전에 알려주는 의료 AI의 성능 평가 결과를 공개했다.

일산병원은 혈압, 맥박, 호흡수, 산소포화도 등 활력징후(바이털)를 기반으로 입원 환자의 갑작스러운 상태 악화를 조기에 감지하고 즉각 대처하는 신속 대응 시스템(RRS)을 2019년부터 가동했다.

이어 2022년 11월 역시 활력 징후를 기반으로 입원 환자 상태를 실시간으로 관찰해 패혈증과 사망, 심정지 등의 상태 악화를 조기에 예측하는 의료 AI 솔루션(에이아이트릭스 바이탈케어)을 추가 도입해 환자 감시에 적용해 왔다.

이번 연구는 RRS와 AI 도입이 환자의 심폐소생술(CPR), 예기치 못한 중환자실(ICU) 전실, 예기치 못한 사망 등 환자 안전에 미친 영향을 평가하기 위해 설계됐다. 2012년 1월 1일부터 2024년 6월 30일까지 12년의 데이터를 토대로 각각의 지표를 세부 분석했다.

그 결과, RRS는 도입 이후 CPR 발생률은 통계적으로 유의하게 감소했지만 예기치 못한 ICU 전실이나 사망률에는 유의미한 변화가 없었다. AI 솔루션 도입 후에도 CPR 발생률은 유의하게 감소했지만 다른 지표들에는 유의미한 영향을 미치지 못했다.

이번 연구에서 AI는 위음성·위양성 등을 판단하는 AUROC 기준 상 CPR과 예기치 못한 사망 예측에서 임상 의사보다 낮은 성능을 보였다. 예기치 못한 ICU 전실 예측에서는 더 나은 성능을 보였다. 연구팀은 "AI의 예측 성능은 기대에 미치지 못했다"고 평가하면서 "데이터 세트 차이와 시간 경과에 따른 모델 성능 변화 때문으로 보인다"는 부연 설명을 달았다.

보건복지부는 이달 초 새로운 의료기술이 별도의 평가 없이 의료현장에 즉시 진입하도록 하는 내용의 '신의료기술평가에 관한 규칙' 일부개정안을 입법 예고했다. 글로벌 수준의 임상 평가(IMDRF)를 거쳐 허가받은 의료기기는 즉시 3년간 비급여로 시장에서 쓸 수 있게 허용한 것이다. 의료 AI와 같이 빠르게 발전하는 의료기기 산업 활성화를 위한 조치로 풀이된다.

그러나, 시민단체는 이 같은 '선(先) 진입, 후(後) 평가' 제도가 환자 안전을 위협할 수 있다며 반대하고 있다. 의료민영화 저지와 무상의료 실현을 위한 운동본부는 성명을 통해 "일단 사고가 발생하면 환자가 입은 피해는 되돌릴 수 없다"며 "환자를 시험대상으로 삼고 의료비 부담을 증대시킬 것"이라고 비판했다.

의료 AI 업계 관계자는 "새로운 기술이라며 임상 도입하고, 비급여로 사용한 뒤 정작 별 도움이 안 되는 상황이 발생하면 의료 AI의 신뢰도에 큰 타격이 가고 오히려 산업 발전을 저해할 수 있다"고 말했다. 이 관계자는 "의료 현장에서 돈을 벌고 나 몰라라 하는 '먹튀 논란'으로까지 번지면 더 문제다. 유효성 평가 등 최소한의 안전 관리 방안은 필요하다고 본다"고 덧붙였다.

한편, 취재가 시작되자 국민건강보험 일산병원은 해당 연구를 비공개로 전환했다. 일산병원 관계자는 "연구 내용과 결과는 모두 대외비로 공개할 수 없다"며 "분석 연구 기간이 짧아 검증이 충분치 않다"고 밝혔다.

박정렬 기자 parkjr@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지