Anthropic이 defending-code-reference-harness 저장소를 공개했다. GitHub 설명에 따르면 이 저장소는 Claude를 사용해 취약점을 자율적으로 발견하고, 사람이 검토한 뒤 수정하는 흐름의 참조 구현이다.1
여기서 핵심은 “Claude가 취약점을 찾는다”는 사실만이 아니다. 더 중요한 단어는 harness, 즉 하네스다. 하네스는 모델이 코드를 읽고, 의심 지점을 찾고, 결과를 검증하고, 수정안을 제안하며, 사람이 최종 판단하는 전체 작업 환경과 절차를 뜻한다.
취약점 탐지는 모델 성능만의 문제가 아니다
보안 AI를 이야기할 때 흔히 초점은 모델에 맞춰진다. 어떤 모델이 더 많은 취약점을 찾는지, 오탐을 얼마나 줄이는지, 패치를 얼마나 잘 쓰는지가 관심사가 된다.
하지만 defending-code-reference-harness가 보여주는 방향은 조금 다르다. 중요한 질문은 “모델이 정답을 맞히는가”에서 “발견, 검증, 수정, 검토를 어떤 절차로 묶을 것인가”로 이동한다.
GitHub 목록상 이 저장소는 Python 프로젝트로 표시되며, 2026년 5월 22일 업데이트됐다.1 스타는 7개, 포크는 0개로 보인다.1 즉, 현재 시점에서는 널리 쓰이는 완성형 보안 제품이라기보다, AI 기반 취약점 대응 흐름을 어떻게 구성할 수 있는지 보여주는 초기 참조 구현에 가깝다.
완전 자동 수정이 아니라 인간 검토 기반 자동화
이 저장소의 설명에서 눈에 띄는 부분은 “autonomous vulnerability discovery”와 “human-reviewed remediation”이 함께 등장한다는 점이다.1 취약점 발견은 자동화하되, 수정은 사람이 검토하는 구조다.
이는 보안 자동화에서 중요한 균형점이다. AI가 코드베이스를 분석하고 패치를 제안할 수는 있지만, 실제 적용 여부는 위험도, 서비스 영향, 기존 설계 의도, 규정 준수 요구사항까지 함께 판단해야 한다. 따라서 보안팀 입장에서는 “AI가 고쳐준다”보다 “AI가 검토 가능한 증거와 수정 후보를 정리해준다”에 가깝게 이해하는 편이 현실적이다.
Anthropic의 Claude Security 설명도 비슷한 방향을 가리킨다. Claude는 코드베이스를 스캔하고, 결과를 검증하며, 패치를 제안하지만 적용 전 사람의 검토와 승인을 요구한다.2 자동화의 목적은 사람을 제거하는 것이 아니라, 사람이 더 빠르고 일관되게 판단할 수 있도록 작업 흐름을 정리하는 데 있다.
도입 전에 봐야 할 것은 라이선스와 성숙도다
공개 저장소라고 해서 곧바로 제품이나 내부 보안 파이프라인에 자유롭게 넣을 수 있다는 뜻은 아니다. GitHub 목록에서 이 저장소의 라이선스 항목은 Other로 표시된다.1 실제 사용을 검토한다면 저장소의 라이선스 조건과 사용 제약을 먼저 확인해야 한다.
성숙도도 함께 봐야 한다. 현재 표시된 스타와 포크 수만 놓고 보면 대규모 커뮤니티 도구라기보다는 참조 구현의 성격이 강하다.1 따라서 실무 적용을 전제로 한다면, 그대로 가져다 쓰기보다 다음과 같은 기준으로 검토하는 편이 안전하다.
어떤 언어와 코드베이스 규모에 적합한가
취약점 후보를 어떤 방식으로 검증하는가
오탐과 중복 결과를 어떻게 줄이는가
패치 제안의 근거를 사람이 추적할 수 있는가
최종 승인과 적용 절차가 기존 개발 프로세스와 맞는가
라이선스와 보안 정책상 내부 사용이 가능한가
보안팀이 가져갈 교훈
defending-code-reference-harness에서 배울 점은 “Claude에게 취약점을 찾아달라고 하면 된다”가 아니다. 오히려 반대에 가깝다. AI를 제대로 쓰려면 먼저 절차를 설계해야 한다.
보안팀이 준비해야 할 것은 모델 호출 자체보다 다음과 같은 파이프라인이다.
분석할 저장소와 범위를 정한다.
모델이 의심 지점을 찾게 한다.
결과의 근거와 재현 가능성을 확인한다.
오탐과 중복을 제거한다.
수정안을 생성하거나 후보를 정리한다.
사람이 위험도와 영향도를 검토한다.
승인된 패치만 적용한다.
Anthropic이 장시간 에이전트 작업에서 생성자와 평가자를 분리하는 하네스 설계를 강조한 것도 같은 맥락으로 볼 수 있다.3 보안에서도 취약점을 찾는 역할, 결과를 의심하고 검증하는 역할, 최종 승인하는 역할은 분리될 필요가 있다.
Anthropic 조직에는 Claude API 접근용 TypeScript, Go, C#, PHP SDK 저장소도 함께 나열돼 있다.1 이는 이 참조 구현이 단독 실험이라기보다 Claude 개발자 도구 생태계 안에서 이해될 수 있음을 보여준다.
결론적으로 defending-code-reference-harness는 완성된 보안 제품이라기보다 방향표에 가깝다. 앞으로의 AI 보안 자동화 경쟁력은 어떤 모델을 쓰느냐만으로 결정되지 않는다. 모델을 어디까지 믿고, 어디서 검증하며, 어떤 단계에서 사람이 승인하게 할지 설계하는 하네스가 더 중요해질 것이다.
1anthropics repositories · GitHub
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.