암 진료에서 AI를 쓰고 싶은 이유는 분명합니다. 가이드라인은 빠르게 바뀌고, 유전체·병기·이전 치료 이력까지 함께 보면 의사결정 부담은 커집니다. 하지만 잘못된 치료 제안, 환자정보 유출, 근거 없는 인용은 "AI가 없을 때"보다 더 위험할 수 있습니다.
OncoAgent는 이 긴장 위에 등장한 오픈소스 종양 임상 의사결정 지원 프레임워크입니다. 공개 자료에 따르면 9B·27B Qwen 모델을 난이도에 따라 나눠 쓰고, LangGraph 기반 8개 노드, NCCN·ESMO 가이드라인 기반 Corrective RAG, Zero-PHI 정책, 인간 검토 게이트를 결합했습니다1. 중요한 질문은 "모델이 똑똑한가"가 아니라 "실제 병원 워크플로 안에서 어디까지 믿고 쓸 수 있는가"입니다.
챗봇이 아니라 워크플로 부품으로 봐야 한다
OncoAgent의 핵심은 거대한 단일 모델이 아닙니다. Router가 사례 복잡도를 판단하고, Ingestion이 입력을 정리하며, RAG가 가이드라인 근거를 찾고, Specialist가 답을 만들고, Critic이 검증한 뒤 HITL 게이트를 거칩니다1.
이 구조는 종양내과 현실과 맞닿아 있습니다. 실제 현장에서 필요한 것은 "암 치료법 알려줘"식 대화가 아닙니다. 초진 기록 요약, 병기·변이 기반 가이드라인 확인, 종양보드 준비, 저위험 문의의 빠른 분류, 복잡 사례의 상급 검토 연결이 더 실용적입니다.
따라서 도입 검토자는 먼저 사용처를 좁혀야 합니다. OncoAgent류 시스템을 치료 결정 엔진으로 바로 놓는 것은 위험합니다. 반대로 "가이드라인 근거를 붙인 사전 정리 도구"나 "종양보드 전 케이스 브리핑 도우미"로 제한하면 가치와 리스크가 더 선명해집니다.
프라이버시 주장은 배포 구조로 검증해야 한다
OncoAgent는 온프레미스 또는 사설 환경 배포를 강조합니다. GitHub 설명도 AMD MI300X, ROCm, vLLM, Gradio 기반 로컬 실행을 전제로 하며, 환자 데이터가 병원 밖으로 나가지 않는 구조를 내세웁니다2.
하지만 "프라이버시 보존"이라는 말만으로는 부족합니다. 병원 AI팀이 확인해야 할 것은 더 구체적입니다.
추론이 실제로 로컬에서 끝나는가
RAG 인덱스에 환자정보가 섞이지 않는가
세션별 메모리가 환자 단위로 분리되는가
누가 어떤 기록을 조회했는지 감사 로그가 남는가
모델이 무엇을 기억하고, 언제 폐기하는가
외부 API나 검색 도구 호출이 기본값으로 꺼져 있는가
OncoAgent의 Zero-PHI, 환자별 thread_id, 로컬 배포 지향은 좋은 출발점입니다. 그러나 실무에서는 보안 아키텍처 문서, 접근제어, 로그 정책, 장애 시 데이터 잔존 여부까지 봐야 합니다. 의료 AI의 프라이버시는 기능이 아니라 운영 계약입니다.
안전장치가 부가 기능이 아니라 제품의 본체다
OncoAgent에서 가장 흥미로운 부분은 모델 크기가 아니라 실패를 다루는 방식입니다. 공개 자료는 Critic 노드가 출력 형식, 안전 규칙, RAG 근거와의 entailment를 검사하고, 실패하면 Specialist에게 재생성을 요구한다고 설명합니다. 고복잡도 사례나 낮은 RAG confidence에서는 인간 검토가 필수로 들어갑니다1.
이 설계는 의료 AI 평가 기준을 바꿉니다. 좋은 시스템은 항상 답하는 시스템이 아닙니다. 근거가 약할 때 멈추고, 불확실성을 표시하고, 임상의에게 넘기는 시스템입니다.
특히 종양 영역에서는 "그럴듯한 대안"이 가장 위험합니다. 가이드라인 문서가 맞지 않거나, 변이 정보가 부족하거나, 병기가 애매하면 안전한 거절이 필요합니다. OncoAgent가 fallback refusal을 명시한 점은 그래서 중요합니다. 답변 품질만큼 거절 품질을 평가해야 합니다.
아직은 파일럿의 언어로 말해야 한다
반론도 필요합니다. OncoAgent는 구조적으로 세련됐지만, 구조가 임상 성능을 보장하지는 않습니다. 의료 AI 연구 전반에서도 단일 범용 모델보다 도구와 데이터를 조합한 agent 방식이 주목받지만, 실제 임상 의사결정은 다단계 추론, 반복 상호작용, 규제 목적 정의까지 요구합니다3.
또한 일부 해설은 OncoAgent류 시스템을 아직 소규모 시뮬레이션 기반 proof-of-principle로 봐야 한다고 지적합니다4. 즉 "오픈소스이고 로컬 실행 가능하다"는 장점과 "실제 환자군에서 검증됐는가"는 별개의 문제입니다.
지금 신경 써야 할 독자는 네 부류입니다. 임상의는 답변보다 근거 표시와 escalation 조건을 봐야 합니다. 병원 혁신팀은 EHR 연동보다 먼저 감사 로그와 책임 경계를 확인해야 합니다. 개발자는 에이전트 수보다 실패 모드 설계에 투자해야 합니다. 연구자는 벤치마크 점수보다 실제 종양보드에서 수정 시간이 줄어드는지 봐야 합니다.
OncoAgent가 던지는 메시지는 명확합니다. 종양 AI의 경쟁력은 "가장 큰 모델"이 아니라 "환자정보를 어디까지 보호하고, 근거를 어떻게 제한하며, 언제 사람에게 넘기는가"에서 결정됩니다.
참고
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.