Anthropic Fable 5 biology restrictions: 독성 두고 독을 만든다

Anthropic이 자사의 최상위 모델 Fable 5에 적용했던 강력한 생물학 안전 필터를 대폭 완화했다. 이번 업데이트로 생물학 관련 질의가 성능이 낮은 구형 모델 Opus 5로 우회되던 비율이 약 85% 감소했다¹. 이제 일상적인 건강 상담이나 교육 목적의 질문은 Fable 5가 직접 처리한다.

이 변화는 단순한 차단 해제가 아니다. 유능한 모델일수록 더 정교한 울타리를 설계해야 한다는 역설을 보여주는 사례다.

생물학은 본질적으로 이중 용도다

애초에 왜 거의 모든 생물학 질문을 막아야 했을까. 답은 생물학 자체의 특성에 있다. 생물학은 같은 기술이 선의와 악의에 모두 사용될 수 있는 ‘이중 용도(dual-use)’의 대표적인 분야다. 생백신을 개발하려면 예방하려는 바로 그 병원체를 배양해야 한다. 고혈압 치료제 캡토프릴(captopril)은 인간의 혈압을 급격히 떨어뜨리는 독사 독의 독성 성분을 분리하여 개발되었다¹. 선한 연구와 악의적 시도는 겉보기에 거의 동일하다.

여기에 Fable 5의 높은 성능이 변수로 작용했다. 회사 자체 평가에 따르면, 이 모델은 복잡한 생물학 과제에서 인간 전문가를 능가하며 악의적 행위자에게 ‘다른 곳에서 얻을 수 없는’ 수준의 지원을 제공할 수 있다¹. 실제로 2026년 미국 정보기관의 연례 위협 평가는 합성 생물학과 유전자 편집 기술이 새로운 생물학적 위협을 초래할 수 있다고 경고했다¹.

그래서 Anthropic은 Fable 5 출시 당시 합법적인 연구자들의 불편을 알면서도 거의 모든 생물학 질의를 차단하는 초광범위 분류기를 적용했다¹. 오남용의 잠재적 피해가 더 크다고 판단한 것이다.

울타리를 더 정교하게 깎아내다

이번 완화의 핵심은 안전 분류기의 판단 기준을 정교화한 데 있다. 분류기는 허용 콘텐츠와 차단 콘텐츠를 구별하는 소형 AI 시스템으로, 판단 근거가 되는 규칙 모음을 Anthropic은 ‘헌법(constitution)’이라 부른다.

이 분류기의 영역 구분은 단순하지 않다. 명백히 무해한 콘텐츠와 이중 용도 콘텐츠, 명백히 유해한 콘텐츠 외에도, 매우 낮은 위험의 질문까지 차단하는 ‘안전 마진(safety margin)’ 영역이 존재한다¹. 초기에는 이 마진이 지나치게 넓어 대부분의 생물학 질문이 무조건 차단되었다.

Anthropic은 수 주에 걸쳐 전문가 피드백을 받아 헌법을 다시 작성하고 분류기를 재학습시켰다¹. 그 결과 무해한 요청과 이중 용도 요청을 더 정밀하게 구분할 수 있게 되었다. 울타리를 치운 것이 아니라, 울타리의 경계선을 더 정교하게 다시 그린 것이다.

바뀐 것과 바뀌지 않은 것

이제 일상적 건강 질문, 검사 결과 해석, 생물학 교육 문의는 Fable 5가 직접 처리하며 의료 전문가의 임상 업무 지원도 강화되었다. 그러나 본질적인 제한은 유지된다. 바이러스학, 독성학, 분자 설계 같은 전문 이중 용도 연구 질의는 여전히 Opus 5로 우회된다¹. 즉, 전문 생물학 연구나 신약 개발에 Fable 5를 사용할 수 없다.

Anthropic은 검증된 연구자에게 제한적 기능을 제공하는 접근 프로그램을 구축 중이다¹. 모델이 더 유능해질수록 설계해야 하는 울타리도 더 정교해져야 한다는 역설은 앞으로도 계속될 것이다. 이번 완화는 그 역설을 해결하려는 구체적인 시도다.

¹Improving Fable 5's biology safeguards

²'Access versus catastrophe': Anthropic reopens biology on its top model