헬스케어 AI 도입은 이제 실험 단계가 아닙니다. 2025년 조사에서는 미국 병원의 약 65%가 AI 기반 예측 도구를 사용하고 있었고, 그런데도 정확도를 직접 평가한 곳은 그중 약 3분의 2, 편향을 점검한 곳은 그보다 더 적었습니다.1 최근 MIT 테크놀로지 리뷰가 짚은 핵심도 같습니다. 의료 AI는 빠르게 들어오고 있지만, 그것이 실제 환자 결과를 개선하는지는 아직 충분히 검증되지 않았습니다.2
이게 왜 지금 중요할까요. 의료 현장에서 "정확하다"는 말은 자주 들리지만, 병원 구매자·의사·환자에게 더 어려운 질문은 따로 있기 때문입니다. 배포 뒤에 무엇이 바뀌었는가. 진료가 빨라졌는가, 의사 판단이 달라졌는가, 환자 예후가 좋아졌는가. 이 셋은 전혀 다른 문제입니다.
의료 AI는 세 가지 시험을 통과해야 한다
대부분의 AI 홍보는 첫 번째 시험만 강조합니다. 기술 성능입니다. 예를 들어 영상 판독, 결핵 X선 스크리닝, 패턴 예측처럼 특정 과업에서 높은 정확도나 민감도를 보여주는 사례는 계속 늘고 있습니다.34
하지만 의료에서 중요한 건 두 번째 시험, 워크플로 적합성입니다. 병원 시스템에 붙는가, 추가 클릭을 만들지 않는가, 누가 결과를 확인하고 책임지는가, 경고가 너무 많아 무시되지는 않는가. 유럽연합 집행위도 AI의 성공 조건으로 데이터 품질뿐 아니라 임상 워크플로 통합, 신뢰, 피해 발생 시 책임 구조를 함께 강조합니다.5
세 번째가 가장 어렵고 가장 중요합니다. 결과 영향입니다. 즉, 실제로 환자 건강이 나아졌는가입니다. AI 스크라이브처럼 의사의 문서 작업 부담을 줄여 번아웃을 낮추는 도구는 분명 가치가 있습니다. 다만 그 가치와 "환자 치료의 질 개선"은 같은 말이 아닙니다.2 시간을 아껴주는 AI와 치료 결과를 바꾸는 AI를 구분해야 하는 이유입니다.
훌륭한 모델이 병원을 더 피곤하게 만들 수 있는 이유
논문에서 잘 작동한 모델이 현장에서는 실망을 주는 경우가 많습니다. 이유는 대체로 모델 밖에 있습니다.
첫째, 경고 피로입니다. 예측 모델이 조금이라도 수상하면 알림을 쏟아내면 의료진은 결국 무시합니다. 둘째, 데이터 이동의 문제입니다. 학습 데이터와 실제 병원 환자군이 다르면 성능은 쉽게 흔들립니다. 외부 타당성과 재현성이 부족하다는 지적은 환자 보고 데이터 기반 AI 연구에서도 반복됩니다.6
셋째, 사람의 인지 방식이 바뀔 수 있습니다. AI 스크라이브는 편하지만, 의사가 환자 이야기를 직접 구조화하며 이해하던 과정에 변화를 줄 수 있습니다. 이것이 실제 판단 품질에 어떤 영향을 주는지는 아직 확인이 부족합니다.2 편의성이 항상 품질 향상으로 이어지는 것은 아니라는 뜻입니다.
넷째, 환자 경험과 신뢰 문제입니다. 환자는 AI가 돌봄의 "보이지 않는 층"으로 들어오는 것을 단순 자동화로 받아들이지 않습니다. 일부 연구는 다수의 사람들이 자신의 치료에 AI가 관여하면 고지받길 원한다고 보고합니다.7 효율성만 높이고 설명 책임을 놓치면, 병원 입장에서는 오히려 수용성을 깎을 수 있습니다.
도입 전에 물어야 할 10가지 질문
헬스케어 AI 제안을 볼 때는 "얼마나 똑똑한가"보다 아래 질문이 더 유용합니다.
누구의 일을 줄여주는가, 그리고 누구의 일을 늘리는가
어느 환자군에서 검증됐는가
우리 병원 데이터에서도 성능이 유지되는가
정확도 말고 실제 의사결정이 바뀌는가
그 변화가 환자 결과로 이어졌는가
편향과 오류를 누가, 얼마나 자주 점검하는가
AI가 틀렸을 때 누가 책임지는가
설명 가능성은 충분한가, 아니면 최소한 검토 가능성은 있는가
EHR, 청구, 예약 시스템과 자연스럽게 연결되는가
비용 대비 효과가 있는가
마지막 질문은 특히 중요합니다. 최근 경제성 평가 리뷰들도 AI의 임상적 가능성과 별개로, 구현 비용·통합 비용·지속 운영 비용을 따져야 한다고 봅니다.8 "사람 10분 절약"이 "조직 전체 효율 개선"으로 자동 연결되지는 않습니다.
지금 가장 가능성 높은 영역과 아직 조심해야 할 영역
현시점에서 비교적 성공 확률이 높은 쪽은 문서 작성, 코딩·청구, 스케줄링, 사전 승인 같은 운영 업무, 그리고 좁게 정의된 영상 보조 판독입니다.35 이유는 간단합니다. 목표가 명확하고, 오류가 치명적이더라도 인간 검토로 완충할 수 있기 때문입니다.
반대로, 독립적 진단, 자율 치료 권고, 복잡한 다질환 환자에 대한 자동 의사결정은 더 높은 기준이 필요합니다. 규제도 이쪽을 고위험으로 봅니다.5 "할 수 있다"와 "맡겨도 된다" 사이 거리가 아직 큽니다.
결국 지금 필요한 태도는 낙관도 냉소도 아닙니다. 병원은 데모의 정확도보다 배포 후 변화 지표를 봐야 하고, 스타트업은 성능 표보다 책임 구조와 검증 설계를 먼저 보여줘야 하며, 임상의는 편의성과 판단 품질을 따로 봐야 합니다. 환자에게 중요한 질문은 하나입니다. 이 AI가 의사를 덜 피곤하게 만드는가, 아니면 내 치료를 실제로 더 좋게 만드는가. 둘 다 가능하면 최선이지만, 아직은 그 둘을 구분해 보는 눈이 더 필요합니다.
참고
1Health-care AI is here. We don't know if it actually helps patients.
2Health-care AI is here. We don't know if it actually helps patients.
4AI in Health Care: Applications, Benefits, and Examples
5Artificial Intelligence in healthcare - Public Health - European Commission
7Integrated artificial intelligence in healthcare and the patient's experience of care
8Systematic review of cost effectiveness and budget impact of artificial intelligence in healthcare
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.