ChatGPT Health: 강력한 건강 도우미인가, 위험한 조언자인가

OpenAI가 GPT-5.6 Sol 출시 몇 주 만에 의료 데이터 통합 기능인 ChatGPT Health를 미국 전역으로 확대했습니다. 이제 누구나 Apple Health, Weight Watchers, MyFitnessPal, Function 등의 서비스는 물론 병원 기록(Epic, Oracle Health)까지 연결해 혈액 검사 추이를 묻거나 진료 예약 전 요약본을 생성할 수 있습니다. 주간 건강 관련 질의는 이미 3억 건을 넘어섰습니다.

그러나 전면 출시 하루 전, 폐색전증 치료 지연 피해를 주장하는 소송이 플로리다에서 제기되었습니다. 좋은 도구와 안전한 도구 사이, 우리가 알아야 할 판단 기준을 정리합니다.

ChatGPT Health란 무엇인가

ChatGPT Health는 OpenAI가 2년간 24개 이상 전문 분야의 260여 명의 의사와 협력해 개발한 건강 관리 기능입니다. 기존 챗봇과 달리 개인 건강 데이터를 직접 연결해 맥락을 이해하고, 검사 결과의 장기적 추세를 분석하거나 진료 전 질문 목록을 준비하는 등 개인화된 조언을 제공합니다.

현재 이 기능은 웹과 iOS에서 18세 이상 로그인 사용자에게 제공되며, 무료 요금제부터 Go, Plus, Pro까지 모든 플랜에서 이용할 수 있습니다. 건강 데이터는 모델 훈련이나 광고 타겟팅에 사용되지 않고 별도의 암호화 계층을 통해 보호된다는 것이 OpenAI의 설명입니다.

다만 한 가지 중요한 사실을 짚고 넘어가야 합니다. ChatGPT Health는 HIPAA 적용 대상이 아닙니다. "정보를 보호하겠다는 건 계약상 약속일 뿐, 유출 시 법적 보호 조치가 부재하다"고 전문가들은 지적합니다.

정확도의 역설: 안전한 중간, 위험한 극단

Nature Medicine에 게재된 독립적인 스트레스 테스트는 ChatGPT Health의 분류 성능에서 우려할 만한 패턴을 발견했습니다. 임상의가 작성한 960개 시나리오를 분석한 결과, 분류 정확도는 역U자형 곡선을 그렸습니다.

중간 정도의 긴급도(수 주 내 진료 권고)에서는 93.0%라는 높은 정확도를 보였지만, 양극단에서는 신뢰도가 급격히 떨어졌습니다. 비응급 상황에서는 35.2%만 올바르게 '집에서 관찰'을 권고했고, 응급 상황에서는 48.4%만 응급실로 보냈습니다.

더 심각한 문제는 하위 분류 오류입니다. 실제 응급 상황 64건 중 52%에 해당하는 33건에서 당뇨병성 케톤산증이나 임박한 호흡 부전 환자에게 "24~48시간 내 진료"라는 느슨한 권고가 내려졌습니다. 모델은 뇌졸중이나 아나필락시스처럼 전형적인 응급 상황은 잘 식별하지만, 임상 진행 단계에 따라 응급 여부가 갈리는 사례에서는 반복적으로 실패하는 모습을 보였습니다.

누가 어떻게 말하느냐에 따라 바뀌는 판단

이 연구는 비임상적 요인이 분류에 미치는 영향도 분석했습니다. 환자의 인종이나 성별, 의료 접근 장벽은 통계적으로 유의미한 차이를 보이지 않았습니다. 하지만 신뢰 구간이 넓어 임상적으로 의미 있는 차이를 완전히 배제할 수는 없습니다.

반면 뚜렷한 인과관계가 확인된 변수가 있었습니다. 바로 앵커링 편향입니다. 가족이나 친구가 "별거 아니야"라며 증상을 축소 전달하는 조건이 붙으면, 경계선 사례에서 덜 긴급한 치료를 권고할 확률이 11.7배나 높아졌습니다(95% 신뢰 구간 3.7–36.6). 환자 본인이나 보호자의 증상 호소 방식이 AI의 분류 결과를 크게 좌우할 수 있다는 의미입니다.

자살 사고 증례에서는 더 역설적인 결과가 나타났습니다. 위기 개입 메시지가 일관되지 않게 활성화되었고, 구체적인 자살 방법이 언급된 경우보다 언급되지 않은 경우에 더 자주 나타나는 패턴을 보였습니다. 위기 감지 안전 장치의 작동 방식이 직관과 반대로 설계되어 있을 가능성을 시사합니다.

지금 우리가 취해야 할 태도

OpenAI는 자체 평가 기준인 HealthBench도 공개하며 성능 개선에 힘쓰고 있습니다. 하지만 독립 연구의 결론은 단호합니다. "응급 상황을 놓치고 위기 안전 장치가 일관되지 않게 작동하는 점은 소비자 규모 배포 전 전향적 검증이 필요하다."

ChatGPT Health는 의사를 대체하는 도구가 아닙니다. 검사 결과 추이 확인이나 진료 전 질문 준비 같은 보조 용도로 시작하는 것이 현재로선 가장 합리적인 접근입니다. ChatGPT Health의 약관에도 중요한 의학적 결정은 반드시 전문가와 상담하라고 명시되어 있습니다.

강력한 AI 건강 도우미가 일상에 들어온 것은 분명한 진전입니다. 하지만 역U자형 정확도가 말해주듯, 이 도구가 가장 취약한 지점은 정작 우리가 가장 도움이 필요할 수 있는 긴급한 순간입니다. 기술의 편리함과 의학적 판단의 무게를 구분하는 눈, 지금 우리에게 가장 필요한 건 바로 그것입니다.