의료 현장에서의 활용

의료 AI의 첫 번째 원칙: 빠른 답보다 안전한 보조

의료 현장에서 ChatGPT를 처음 접한 사람은 대개 두 가지 감정을 동시에 느낀다. 하나는 놀라움이다. 어려운 의학 용어를 쉬운 말로 바꾸고, 긴 논문을 몇 문단으로 줄이며, 환자 안내문 초안을 순식간에 만든다. 다른 하나는 불안이다. 이렇게 그럴듯하게 말하는 도구가 혹시 틀리면 어떻게 되는가. 이 질문이 의료 분야에서 가장 중요하다.

의료에서 생성형 AI의 가치는 '정답을 대신 내리는 능력'이 아니라 '의료진이 더 빨리 확인하고, 더 쉽게 설명하고, 더 일관되게 기록하도록 돕는 능력'에 있다. OpenAI가 건강 관련 서비스 소개에서 건강 정보와 대화의 개인정보 보호, 보안, 데이터 제어를 별도로 강조하는 것도 같은 이유다. 건강 분야는 사용 수요가 크지만, 그만큼 잘못된 답과 정보 노출의 비용이 높다.¹

따라서 의료 현장의 기본 문장은 단순해야 한다.

• AI는 진단하지 않는다. 가능한 쟁점과 확인 항목을 정리한다.

• AI는 처방하지 않는다. 근거와 주의점을 정리해 의료진의 판단을 돕는다.

• AI는 책임지지 않는다. 최종 판단, 설명, 기록 책임은 의료 전문가와 기관에 남는다.

이 세 문장을 잊는 순간, ChatGPT는 유용한 보조 도구에서 위험한 대리 판단자로 바뀐다. 반대로 이 경계를 지키면, ChatGPT는 의료진이 가장 지치는 반복 업무에서 힘을 발휘한다. 논문을 훑고, 환자용 설명문을 다듬고, 회의록을 정리하고, 퇴원 안내문을 쉬운 말로 바꾸는 일은 모두 '판단의 자동화'가 아니라 '판단 전후의 노동을 줄이는 일'이다.

의료 현장에서 쓸 수 있는 일과 쓰면 안 되는 일

의료 업무를 ChatGPT에 연결할 때는 먼저 위험도를 나눠야 한다. 같은 '요약'이라도 공개 논문 요약은 비교적 낮은 위험의 작업이고, 실제 환자의 진료기록 요약은 민감정보 처리와 임상적 책임이 붙는 고위험 작업이다. 같은 '설명'이라도 검사 전 주의사항을 쉬운 말로 바꾸는 일과 특정 환자에게 치료법을 추천하는 일은 전혀 다르다.

한국 의료 현장에서도 환자 친화적 설명문 생성은 가능성이 확인되고 있다. 한국 환자를 위한 퇴원요약을 ChatGPT 기반으로 생성한 연구는 few-shot 프롬프트, 즉 좋은 예시를 함께 제시하는 방식이 환자 중심 설명문 작성에 도움이 될 수 있음을 보여준다.² 다만 여기서 핵심은 'AI가 퇴원 결정을 한다'가 아니다. 의료진이 이미 판단한 내용을 환자가 이해하기 쉬운 한국어로 바꾸는 보조 작업에 가깝다.

반대로, 시험 성적이나 벤치마크 성과를 실제 진료 능력으로 곧장 해석해서는 안 된다. GPT-4가 한국 한의사 국가시험 문항에서 합격 기준을 넘는 성능을 보였다는 연구가 있지만, 동시에 한국에 특화된 법규·지역 지식이나 중재 선택이 필요한 문항에서는 약점을 보였다.³ 심장질환 관련 실제 사용자 질문에 대한 비교 연구에서도 GPT-4는 전반적으로 인간 전문가와 비슷한 평가를 받는 경우가 있었지만, 약물 정보와 예비 진단 영역에서는 인간 전문가가 더 나은 모습을 보였다.⁴

응급도 분류는 특히 조심해야 한다. 2026년 Nature Medicine의 연구 브리핑은 ChatGPT Health가 중등도 긴급 상황에서는 비교적 높은 정확도를 보였지만, 가벼운 사례를 과도하게 긴급하다고 판단하거나 실제 응급 상황을 낮게 보는 문제가 있었다고 요약한다.⁵ 의료에서 가장 위험한 오류는 늘 양끝에서 발생한다. 별것 아닌 일을 큰일로 만들면 불필요한 공포와 의료 자원 낭비가 생긴다. 큰일을 별것 아닌 일로 만들면 환자 안전이 무너진다.

근거 탐색: AI에게 결론이 아니라 지도부터 그리게 하라

의료진에게 필요한 것은 '이 치료가 맞나요?'라는 단답이 아니다. 실제로 필요한 것은 어떤 근거가 있고, 어떤 환자군에서 연구되었으며, 어떤 한계가 있고, 지금 눈앞의 환자에게 적용하려면 무엇을 더 확인해야 하는지다. 그러려면 ChatGPT를 검색 엔진처럼 쓰기보다 문헌 검토의 구조를 만드는 보조자로 써야 한다.

좋은 근거 탐색 프롬프트는 질문을 좁힌다. 예를 들어 '당뇨 치료 최신 지견 알려줘'라고 묻는 대신, 환자군, 중재, 비교 대상, 결과를 나누어 묻는다. 의학 연구에서 흔히 쓰는 PICO는 Patient, Intervention, Comparison, Outcome의 약자로, 임상 질문을 환자군·중재·비교·결과로 쪼개는 방식이다.

역할: 의료진의 문헌 검토 보조자

목표:
아래 임상 질문에 대해 공개적으로 확인 가능한 근거를 찾기 위한 검색 전략과 요약 틀을 만들어라.

임상 질문:
성인 제2형 당뇨병 환자에서 [중재]가 [비교 대상]에 비해 [결과]를 개선하는가?

출력 형식:
1. PICO 정리
2. 검색 키워드 한국어·영어 각각 5개
3. 우선 확인할 문헌 유형
4. 요약 시 확인할 항목
   - 연구 대상
   - 중재와 비교군
   - 주요 결과
   - 부작용 또는 안전성
   - 한계
5. 원문 확인이 필요한 이유

제약:
- 최종 치료 결론을 단정하지 말 것
- 실제 논문 제목이나 DOI를 제시할 때는 확인 필요라고 표시할 것
- 최신 가이드라인 확인이 필요한 항목을 별도로 표시할 것

이 프롬프트의 목적은 AI에게 결론을 맡기는 것이 아니라, 의료진이 직접 확인할 검색 지도를 얻는 것이다. ChatGPT는 그럴듯한 참고문헌을 만들어낼 수 있다. 그러므로 논문 제목, 저자, DOI, 학회 가이드라인, 권고 등급은 반드시 PubMed, 학회 공식 홈페이지, 원문 PDF, 병원에서 승인한 의학 데이터베이스로 다시 확인해야 한다.

근거 요약을 시킬 때도 '좋다/나쁘다'보다 '어디까지 말할 수 있는가'를 요구해야 한다. 의료에서 좋은 요약은 자신감 넘치는 요약이 아니라, 적용 범위와 불확실성을 분명히 표시한 요약이다.

아래 논문 초록을 의료진 검토용으로 요약하라.

출력 형식:
1. 한 줄 결론
2. 연구 설계
3. 대상자 특성
4. 주요 결과
5. 안전성 또는 부작용
6. 실제 진료 적용 시 주의점
7. 이 초록만으로 판단할 수 없는 내용

제약:
- 초록에 없는 내용은 추정하지 말 것
- 통계 수치를 임의로 바꾸지 말 것
- 최종 권고문처럼 쓰지 말 것
- 원문 확인이 필요한 표와 부록이 있으면 표시할 것

초록:
[초록 붙여넣기]

이 방식은 특히 전공의 교육, 저널 클럽 준비, 다학제 회의 전 자료 정리에 유용하다. 다만 AI 요약은 어디까지나 '첫 번째 정리본'이다. 근거의 품질, 편향 위험, 대상 환자와의 차이, 국내 허가사항과 보험 기준은 사람이 확인해야 한다.

환자 설명: 쉬운 말은 가벼운 말이 아니다

환자는 병원에서 많은 말을 듣지만, 집에 돌아가면 절반도 기억하지 못하는 경우가 많다. 검사명은 낯설고, 약 이름은 비슷하며, 주의사항은 길다. 이때 ChatGPT는 환자용 설명문을 쉬운 한국어로 바꾸는 데 큰 도움이 된다.

단, 쉬운 말로 바꾼다는 것은 내용을 대충 줄인다는 뜻이 아니다. 환자 설명문은 정확성과 친절함을 동시에 가져야 한다. 어려운 용어를 풀어 주되 위험을 숨기지 않아야 하고, 불안을 낮추되 필요한 경고는 분명히 말해야 한다.

역할: 환자 안내문을 쉬운 한국어로 다듬는 의료 커뮤니케이션 보조자

작업:
아래 의료진용 설명문을 환자와 보호자가 이해하기 쉬운 안내문으로 바꾸어라.

조건:
- 중학생도 이해할 수 있는 문장으로 쓸 것
- 어려운 의학 용어는 괄호 안에 짧게 풀이할 것
- 진단이나 예후를 새로 단정하지 말 것
- 원문에 없는 치료 효과를 추가하지 말 것
- 응급실 또는 병원에 연락해야 할 위험 신호를 별도 항목으로 정리할 것
- 마지막에 의료진에게 다시 확인할 질문 3개를 제안할 것

원문:
[의료진용 설명문]

예를 들어 '항응고제 복용 중 출혈 위험이 증가할 수 있습니다'라는 문장은 환자에게 충분하지 않을 수 있다. 더 나은 설명은 '피가 평소보다 잘 멎지 않을 수 있습니다. 코피가 오래 나거나, 소변·대변에 피가 보이거나, 멍이 갑자기 많이 생기면 병원에 연락하세요'처럼 행동 기준을 함께 제시한다. 이때 ChatGPT는 문장을 부드럽게 바꿀 수 있지만, 어떤 증상을 위험 신호로 넣을지는 의료진이 확인해야 한다.

한국어 환자 설명에서는 높임말도 중요하다. 너무 딱딱한 문장은 환자에게 거리감을 주고, 너무 친근한 문장은 의료기관 안내문으로 부적절할 수 있다. '반드시 하세요'와 '해보시면 좋습니다' 사이에는 임상적 강도가 다르다. 금식, 약 중단, 응급 내원처럼 반드시 지켜야 하는 지시는 부드럽게 돌려 말하면 안 된다. 반대로 생활습관 조언은 비난처럼 들리지 않게 써야 한다.

아래 안내문을 한국 병원 외래 환자용 문체로 다듬어라.

문체 기준:
- 존댓말 사용
- 환자를 탓하는 표현 금지
- 반드시 지켜야 하는 내용과 권장 사항을 구분
- 숫자, 시간, 복용 횟수는 원문 그대로 유지
- 불확실한 내용은 의료진 확인 필요라고 표시

출력 형식:
1. 쉬운 안내문
2. 반드시 지킬 사항
3. 병원에 연락해야 할 상황
4. 다음 진료 때 물어볼 질문

원문:
[안내문]

환자 설명문은 의료진의 전문성을 낮추는 작업이 아니다. 오히려 전문성을 환자의 언어로 번역하는 작업이다. 의료진이 10분 동안 말한 내용을 환자가 집에서 다시 읽고 이해할 수 있다면, 그 자체가 안전을 높이는 일이다.

행정 문서와 기록 보조: 시간을 줄이되 기록의 무게를 잊지 말라

의료 현장에서 행정 업무는 진료만큼 시간을 잡아먹는다. 회의록, 교육자료, 공문 초안, 환자 안내 FAQ, 부서 내 프로토콜 요약, 연구계획서의 비전문가용 설명문은 모두 ChatGPT가 도울 수 있는 영역이다. 이런 작업은 대개 진단·처방과 직접 연결되지 않기 때문에 상대적으로 안전하게 시작할 수 있다.

하지만 진료기록과 관련된 순간부터 위험도가 높아진다. 실제 환자의 병력, 검사 결과, 영상 판독, 투약 정보, 수술 기록은 민감한 건강정보다. 승인되지 않은 개인 계정에 붙여 넣어서는 안 되며, 기관이 승인한 보안 환경과 계약, 접근권한, 로그 정책이 있어야 한다. 보건의료 전문가를 위한 AI 안전 사용 가이드들이 공통적으로 강조하는 것도 같다. AI는 교육·커뮤니케이션·행정 초안을 도울 수 있지만, 실제 환자 데이터 처리, 임상 결정, 검토 없는 의료 조언 생성에는 엄격한 주의가 필요하다.⁶

행정 문서에서 ChatGPT를 쓰는 좋은 방법은 '초안'과 '확정본'을 분리하는 것이다. 예를 들어 부서 회의록을 정리할 때는 AI가 핵심 안건과 할 일을 정리할 수 있다. 그러나 환자명, 등록번호, 수술 일정, 민감한 사건 보고가 들어간 회의록이라면 먼저 비식별화하거나 승인된 내부 시스템에서만 처리해야 한다.

아래 회의 메모를 병원 부서 내부 회의록 초안으로 정리하라.

조건:
- 환자 식별정보가 있으면 [식별정보 삭제 필요]로 표시
- 결정된 사항과 논의 중인 사항을 구분
- 담당자, 기한, 후속 조치를 표로 정리
- 의료적 판단이나 법적 책임을 단정하지 말 것

출력 형식:
1. 회의 요약
2. 결정 사항
3. 미결 사항
4. 후속 조치 표
5. 개인정보 또는 민감정보 확인 필요 항목

메모:
[회의 메모]

진료기록 초안 작성에 AI를 쓸 수 있는 기관도 있을 것이다. 그러나 이 경우에도 원칙은 변하지 않는다. AI가 작성한 문장은 의료진이 직접 확인한 사실과 구분되어야 하고, 잘못된 자동완성으로 없던 증상이나 검사 결과가 들어가면 안 된다. 기록은 문장이 아니라 법적·임상적 사실의 흔적이다. 문장을 예쁘게 만드는 능력보다 사실을 오염시키지 않는 통제가 더 중요하다.

개인정보와 민감 건강정보: 이름만 지우면 끝이 아니다

의료 분야에서 가장 흔한 실수는 '이름을 지웠으니 괜찮다'고 생각하는 것이다. 그러나 환자를 알아볼 수 있는 정보는 이름만이 아니다. 주민등록번호, 연락처, 주소, 환자등록번호, 보험정보, 얼굴 사진은 직접 식별정보다. 여기에 날짜, 지역, 직업, 희귀질환, 입원 경과, 가족관계가 결합되면 이름 없이도 특정 환자를 추정할 수 있다.

한국 개인정보보호법은 개인정보 처리 목적을 명확히 하고, 필요한 범위에서 최소한으로 수집해야 한다는 원칙을 둔다.⁷ 의료기관은 여기에 더해 의료법, 생명윤리 관련 규정, 기관 내부 보안정책, 연구심의 절차를 함께 고려해야 한다. 특히 건강정보는 일반 개인정보보다 더 엄격하게 다루어야 하는 민감한 정보다.

비식별화는 문장 전체를 다시 보는 작업이다. 다음과 같은 정보는 ChatGPT 입력 전에 제거하거나 범주화해야 한다.

• 직접 식별정보: 이름, 주민등록번호, 환자등록번호, 전화번호, 이메일, 상세 주소, 얼굴 사진

• 준식별정보: 정확한 생년월일, 입·퇴원일, 특정 지역, 직업, 가족관계, 희귀한 사건 경위

• 의료 맥락 정보: 희귀질환명, 특이한 수술 이력, 특정 날짜의 검사 조합, DICOM 이미지 메타데이터

• 기관 정보: 담당 의료진 이름, 병동·수술방·검사실 정보, 내부 시스템 ID, 접근 링크

• 문서 흔적: 파일명, 주석, 워터마크, 스캔 이미지의 여백 메모, PDF 속성 정보

예를 들어 '2026년 3월 18일 강릉에 거주하는 43세 남성 김○○, 희귀 신경계 질환으로 A병원 응급실 내원'이라는 문장은 이름을 지워도 위험하다. 더 안전한 입력은 '최근 응급실에 내원한 중년 남성, 신경계 증상 평가 사례'처럼 시간·장소·나이·기관을 범주화한 형태다. 희귀질환이나 언론에 보도될 만한 사건은 더 넓게 묶어야 한다.

접근 통제도 중요하다. 의료기관에서 ChatGPT나 유사 도구를 쓰려면 최소한 다음 기준이 필요하다.

• 기관이 승인한 계정과 워크스페이스만 사용할 것

• 개인 계정, 개인 이메일, 개인 클라우드로 환자정보를 옮기지 않을 것

• 역할 기반 접근권한을 적용하고 필요한 사람만 열람하게 할 것

• 입력·출력·검토자·사용 목적을 로그로 남길 것

• 데이터 보관 기간과 삭제 절차를 문서화할 것

• 사고 발생 시 보고 경로와 환자 통지 기준을 정해 둘 것

의료 데이터는 '나중에 지우면 된다'는 태도로 다룰 수 없다. 한 번 외부 시스템에 들어간 정보는 복제, 로그, 백업, 모델 개선 사용 여부를 모두 확인해야 한다. 기관이 계약과 보안 검토를 마친 환경이 아니라면 실제 환자 식별정보를 넣지 않는 것이 원칙이다.

임상 추론 보조: 두 번째 의견이 아니라 두 번째 체크리스트

ChatGPT는 감별진단 목록을 만들고, 빠뜨린 질문을 제안하고, 위험 신호를 정리하는 데 도움을 줄 수 있다. 그러나 이것을 '두 번째 의사'처럼 대하면 위험하다. 더 안전한 비유는 '두 번째 체크리스트'다. 체크리스트는 비행기를 조종하지 않는다. 조종사가 빠뜨릴 수 있는 항목을 다시 보게 한다.

위험한 질문은 대개 이렇게 생겼다.

이 환자는 어떤 병인가?
이 약을 처방해도 되는가?
이 증상이면 응급실에 안 가도 되는가?
이 영상에서 암인지 아닌지 판정해라.

안전한 질문은 다르게 생겼다.

아래 비식별 사례를 바탕으로 의료진 검토용 체크리스트를 만들어라.

목표:
최종 진단을 내리지 말고, 놓치기 쉬운 감별진단 범주와 추가 확인 질문을 정리하라.

출력 형식:
1. 즉시 배제해야 할 위험 신호
2. 가능한 감별진단 범주
3. 추가로 확인할 병력 질문
4. 확인이 필요한 검사 또는 자료
5. 약물·알레르기·기저질환 관련 주의점
6. 이 정보만으로 판단할 수 없는 부분

제약:
- 최종 진단명이나 처방을 단정하지 말 것
- 응급 가능성이 있으면 의료진 즉시 평가 필요라고 표시할 것
- 근거가 필요한 항목은 최신 가이드라인 확인 필요라고 표시할 것

비식별 사례:
[사례]

이 프롬프트의 차이는 책임의 위치다. AI에게 결정을 맡기지 않고, 사람이 결정을 더 잘 내리도록 확인 항목을 요구한다. 실제 임상에서는 환자의 표정, 통증 양상, 보호자의 설명, 약 봉투, 이전 병원 기록, 검사실의 작은 변화처럼 텍스트 밖의 정보가 중요하다. ChatGPT는 입력받지 못한 것을 알 수 없고, 맥락을 놓친 채 과감한 답을 만들 수 있다.

특히 약물 관련 질문은 조심해야 한다. 약물 용량, 금기, 상호작용, 임신·수유, 신장·간 기능, 보험 기준, 국내 허가사항은 모두 최신성과 지역성이 강하다. ChatGPT가 일반적인 설명을 줄 수는 있지만, 처방 결정은 전자의무기록, 약물 데이터베이스, 병원 약제팀, 최신 허가사항, 담당 의료진의 판단과 함께 이루어져야 한다.

의료용 프롬프트의 안전장치

의료 프롬프트는 일반 업무 프롬프트보다 더 엄격해야 한다. 좋은 의료 프롬프트에는 적어도 다섯 가지 장치가 들어간다. 첫째, 역할을 '의료진 보조'로 제한한다. 둘째, 진단·처방 단정을 금지한다. 셋째, 근거와 최신성 확인을 요구한다. 넷째, 불확실성과 추가 확인 항목을 출력하게 한다. 다섯째, 전문가 검토 전에는 환자에게 제공하지 말라고 명시한다.

역할:
당신은 의료진의 문서 작성과 근거 정리를 돕는 보조 도구다.
진단, 처방, 응급도 판단을 최종 결정하지 않는다.

작업:
아래 자료를 바탕으로 의료진 검토용 초안을 작성하라.

필수 규칙:
- 원문에 없는 사실을 추가하지 말 것
- 추정이 필요한 부분은 추정 필요라고 표시할 것
- 최신 가이드라인 확인이 필요한 항목을 표시할 것
- 환자에게 바로 전달 가능한 문구와 의료진 내부 검토용 문구를 구분할 것
- 최종 검토자는 의료진임을 문서 하단에 표시할 것

출력 형식:
1. 핵심 요약
2. 근거가 있는 내용
3. 불확실하거나 추가 확인이 필요한 내용
4. 환자 설명용 문안
5. 의료진 검토 체크리스트

자료:
[비식별 자료 또는 공개 문서]

의료 프롬프트에서 가장 위험한 말은 '알아서'다. 알아서 요약해줘, 알아서 판단해줘, 알아서 환자에게 설명해줘. 의료에서는 알아서라는 말이 책임의 빈칸을 만든다. 그 빈칸을 채우는 방법은 출력 형식과 검토 기준을 명시하는 것이다.

인간 검토 루프: AI 결과물은 채택·수정·폐기 중 하나다

의료 현장의 AI 결과물은 그대로 쓰는 문서가 아니다. 반드시 채택, 수정, 폐기 중 하나로 분류되어야 한다. 이 분류가 없으면 조직은 AI를 얼마나 안전하게 쓰고 있는지 알 수 없다.

권장 검토 루프는 다음과 같다.

1. 업무 목적을 정한다. 환자 설명문인지, 문헌 요약인지, 내부 회의록인지 먼저 구분한다.

2. 입력 데이터를 최소화한다. 실제 환자정보가 필요 없는 작업이면 공개 자료나 가상 사례만 사용한다.

3. 승인된 환경에서만 처리한다. 개인 계정과 무단 외부 도구 사용을 막는다.

4. AI 출력에 근거와 불확실성을 포함시킨다. 출처, 날짜, 원문 확인 필요 항목을 남긴다.

5. 담당 의료진이 임상적 정확성을 검토한다. 사실 오류, 누락, 과장, 환자 안전 문제를 확인한다.

6. 환자 전달 전 문해력을 점검한다. 쉬운 말, 위험 신호, 문의 경로가 분명한지 본다.

7. 최종본과 로그를 보관한다. 프롬프트, 모델, 입력 범위, 출력, 수정 내용, 검토자를 남긴다.

이 루프는 번거로워 보이지만, 실제로는 의료기관을 보호한다. 문제가 생겼을 때 'AI가 그렇게 말했다'는 설명은 통하지 않는다. 누가 어떤 목적으로 어떤 데이터를 넣었고, 어떤 결과를 받았으며, 누가 어떻게 수정했는지가 남아 있어야 한다. 감사 로그는 처벌을 위한 장치가 아니라, 의료진과 환자를 동시에 보호하는 안전벨트다.

의료용 AI 체크리스트

의료기관에서 ChatGPT 활용을 시작한다면 거창한 플랫폼보다 체크리스트 한 장이 먼저다. 다음 체크리스트는 부서 단위 파일럿을 시작할 때 사용할 수 있다.

사용 전

• 이 작업이 진단·처방·응급도 판단을 대체하지 않는가?

• 실제 환자 식별정보 없이도 수행 가능한가?

• 기관이 승인한 계정, 보안 환경, 계약 조건이 마련되어 있는가?

• 입력 가능한 데이터와 금지 데이터가 문서화되어 있는가?

• 환자에게 제공될 가능성이 있는 출력물인지 내부 검토용인지 구분했는가?

• 최신 가이드라인, 원문 논문, 약물 정보 등 별도 확인 경로가 정해져 있는가?

사용 중

• 프롬프트에 진단·처방 단정 금지를 명시했는가?

• 원문에 없는 사실을 추가하지 말라고 지시했는가?

• 출처, 근거 수준, 최신성 확인 필요 항목을 요구했는가?

• 불확실성, 누락 정보, 추가 질문을 출력하게 했는가?

• 환자 설명문에는 쉬운 말과 위험 신호를 함께 넣었는가?

• 민감정보가 출력에 다시 노출되지 않는지 확인했는가?

사용 후

• 의료진이 사실성과 임상적 적절성을 검토했는가?

• 사용한 근거를 원문 또는 공식 데이터베이스에서 확인했는가?

• AI 초안에서 수정한 부분이 남아 있는가?

• 최종본, 검토자, 검토 시점, 사용 목적을 기록했는가?

• 오류나 위험한 출력이 있었다면 재사용 금지 또는 템플릿 수정으로 이어졌는가?

• 환자에게 AI 보조 여부를 알려야 하는 상황인지 기관 정책에 따라 판단했는가?

절대 위임하지 말아야 할 결정

• 최종 진단명 확정

• 약물 처방, 중단, 증량, 감량 결정

• 응급실 방문 여부의 최종 판단

• 수술·시술 동의의 대체 설명

• 영상·병리·검사 결과의 최종 판독

• 환자 예후, 생존 가능성, 치료 성공률의 단정

이 체크리스트를 통과하지 못하는 작업은 아직 AI에 맡길 준비가 되지 않은 작업이다. 기술이 부족해서가 아니라 운영 체계가 부족하기 때문이다.

작은 파일럿으로 시작하라

의료기관이 처음부터 모든 업무에 ChatGPT를 붙이려 하면 실패할 가능성이 높다. 가장 좋은 출발점은 낮은 위험, 높은 반복, 명확한 검토 기준을 가진 업무다. 예를 들어 외래 검사 안내문을 쉬운 말로 바꾸기, 공개 논문 초록을 저널 클럽용 표로 정리하기, 부서 교육자료 초안을 만들기, 환자 FAQ를 최신 고지문에 맞게 다듬기 같은 작업이 좋다.

파일럿의 성공 기준도 '얼마나 멋진 답을 했는가'가 아니라 '얼마나 안정적으로 검토 가능한 초안을 만들었는가'여야 한다. 한 달 동안 다음 지표를 기록해 보라.

• 초안 작성 시간이 얼마나 줄었는가?

• 의료진 수정률은 어느 정도인가?

• 사실 오류, 누락, 과장 표현은 몇 건 발생했는가?

• 환자 설명문 이해도는 개선되었는가?

• 개인정보나 민감정보 노출 위험은 없었는가?

• 재사용 가능한 프롬프트와 템플릿이 남았는가?

이 지표가 쌓이면 조직은 감으로 AI를 쓰지 않게 된다. 어떤 업무는 계속 쓰고, 어떤 업무는 제한하고, 어떤 업무는 금지해야 하는지 판단할 수 있다. 의료 AI 거버넌스는 선언문에서 시작하지 않는다. 작은 사용 기록과 검토 로그에서 시작한다.

의료 현장의 결론: 더 빨리 결정하기보다 더 잘 확인하기

의료 분야에서 ChatGPT의 가장 큰 장점은 속도다. 그러나 의료 분야에서 가장 중요한 가치는 속도가 아니다. 근거, 개인정보, 전문가 책임이 먼저다. 속도는 그다음이다.

좋은 의료 AI 활용은 의사를 대체하는 장면이 아니라, 의료진이 환자에게 더 쉽게 설명하고, 최신 근거를 더 빨리 찾고, 반복 문서 작업에 덜 지치고, 위험한 누락을 한 번 더 확인하는 장면에서 시작된다. 환자는 더 이해하기 쉬운 설명을 받고, 의료진은 더 검토 가능한 초안을 얻고, 조직은 더 투명한 기록을 남긴다.

결국 의료 현장에서 ChatGPT를 안전하게 쓰는 질문은 하나로 모인다. '이 도구가 판단을 대신하고 있는가, 아니면 판단을 더 잘하도록 돕고 있는가?' 답이 앞쪽이라면 멈춰야 한다. 답이 뒤쪽이라면, 개인정보를 줄이고, 근거를 확인하고, 로그를 남기고, 전문가가 최종 책임을 지는 방식으로 천천히 넓혀 갈 수 있다.

의료 AI의 목표는 차가운 자동화가 아니다. 더 정확한 설명, 더 안전한 확인, 더 책임 있는 기록이다. 그 선을 지킬 때 ChatGPT는 진료실을 침범하는 도구가 아니라, 의료진과 환자 사이의 이해를 넓히는 조용한 보조자가 된다.

참고

¹ChatGPT Health를 소개합니다

²Patient-Friendly Discharge Summaries in Korea Based on ChatGPT

³GPT-4 can pass the Korean National Licensing Examination for Korean Medicine Doctors

⁴Assessing GPT-4's Performance in Delivering Medical Advice: Comparative Analysis With Human Experts

⁵ChatGPT Health triage advice falls short in key cases

⁶Using ChatGPT safely: A guide for health professionals

⁷Personal Information Protection Act