Claude watermarks: 작동 원리와 탐지 결과를 해석하는 법
AI가 쓴 글인지 확정하는 일은 어렵다. Anthropic이 도입하는 Claude watermarks 역시 작성 주체를 판정하는 도구가 아니라, Claude가 텍스트 생성에 관여했을 가능성을 기계가 확인하도록 돕는 신호다.
Anthropic은 EU AI Act 제50조 2항에 따른 AI 생성 콘텐츠 투명성 실천 강령에 서명했다. 이에 따라 Claude가 생성한 콘텐츠에 기계가 읽을 수 있는 표시를 적용할 예정이다.1
숨은 정보를 삽입하지 않고 단어 선택을 조정한다
Claude watermarks는 특수 문자나 별도 정보를 텍스트에 추가하지 않는다. 대신 문맥상 여러 후보 단어가 비슷하게 적절할 때, Claude가 단어를 선택하는 데 쓰는 무작위성의 출처를 바꾼다.2
이 과정에서는 비밀 키와 앞선 몇 개 단어가 다음 단어 선택에 사용된다. 탐지기는 완성된 텍스트의 단어 배열이 해당 키로 생성되는 선택 패턴과 얼마나 일치하는지 검사한다. Anthropic은 Google DeepMind가 2024년 공개한 SynthID-Text 방식을 적용할 예정이다.2
워터마크는 독자에게 보이지 않으며, 생성에 추가 토큰이 필요하지 않아 비용도 늘어나지 않는다. 특정 개인이나 조직, 대화를 식별할 수 있는 정보도 포함하지 않는다.2
텍스트와 파일에는 서로 다른 표시가 쓰인다
텍스트에는 단어 선택 패턴을 이용한 워터마크가 적용된다. PNG, JPG, SVG 같은 파일에는 C2PA 표준에 따른 서명된 출처 메타데이터가 첨부된다. 텍스트 워터마크가 단어 배열을 분석하는 방식이라면, 파일 메타데이터는 생성·처리 이력을 확인하는 전자 서명에 가깝다.1
텍스트 워터마크는 복사하거나 가볍게 편집해도 완전히 사라지지 않을 수 있다. 반면 모든 단어를 바꾸는 수준으로 다시 쓰면 제거될 수 있다. Anthropic은 워터마크를 확인할 수 있는 탐지 API도 출시할 계획이다.2
탐지에는 분명한 한계가 있다
워터마크가 모든 텍스트에 같은 수준으로 남는 것은 아니다. 짧은 글은 분석할 단어 선택이 적어 탐지 신뢰도가 낮다. Claude가 문법이나 구두점만 가볍게 교정한 글도 새로 선택한 단어가 적어 워터마크가 적용될 부분이 거의 없을 수 있다.
정확한 표현이 중요한 사실 문장이나 코드에서도 적용 범위가 제한된다. 코드의 경우 주석처럼 여러 표현 중 임의로 용어를 고를 수 있는 부분에 워터마크가 사용될 수 있다.2
따라서 탐지 결과는 텍스트 일부가 Claude에 의해 작성됐을 가능성을 나타낼 뿐이다. 다음과 같은 사실까지 증명하지는 못한다.
특정 인물이 작성했는지
전체 내용을 AI가 생성했는지
다른 AI가 생성했는지
탐지된 텍스트가 편집되거나 재작성됐는지
요약: Claude watermarks는 판결이 아니라 보조 신호다
Claude watermarks의 가치는 AI 작성 여부를 단정하는 데 있지 않다. 출처와 생성 과정을 판단할 때 참고할 수 있는 기계 판독 신호를 제공한다는 점이 핵심이다.
교육, 채용, 출판처럼 판단의 영향이 큰 현장에서는 탐지 결과만으로 결론을 내려서는 안 된다. 작성 이력과 수정 과정, 원본 자료 등 다른 근거를 함께 검토해야 한다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.