아래는 미디엄에 올라온 글을 양자번역시스템으로 한국어로 번역한 것입니다.
내용에 크게 공감하며, 트럼프의 행정명령 이전에 씌여진 2026년 6월 11일자 글입니다.
접근법 설정: 메타 문맥에 따라 의역 70%, 직역 30%의 비율을 적용합니다. 직역을 하면 한국어 어조가 어색해지는 감정적 격앙 표현이나 미국식 구어체 비유('chief', 'gift that keeps on giving')는 한국 독자가 직관적으로 분노와 냉소를 느낄 수 있는 세련된 시사 평론 톤의 어조로 재구성합니다.
용어 가이드라인: Technical Term인 'Guardrails', 'Classifiers', 'Vector steering', 'LoRA adapters' 등은 업계 전문가들이 사용하는 표준 용어를 유지하되, 저자의 메타포(Dumbified, Lobotomized)가 가진 파괴력을 살려 번역합니다.
당신이 초대받지 못한, 새로운 AI 시대의 서막
이냐시오 디 그레고리오(Ignacio de Gregorio)
챗GPT(ChatGPT)의 등장은 우리에게 '대중화된 AI 시대'라는 새로운 막을 공식적으로 열어주었습니다. 그 이후로 수천 개의 새로운 모델이 쏟아져 나왔고, 인공지능의 역량은 멈출 기색 없이 매번 새로운 정점을 찍으며 발전해 왔습니다.
그리고 바로 어제, 또 다른 새로운 시대가 시작되었습니다. 하지만 이번엔 더 강력한 모델이 출시되어서가 아닙니다. 솔직히 말해서, 이번 출시의 목적이 '당신을 위한 것이 아니기' 때문입니다.
그렇다고 너무 화내지는 마십시오. 그들은 전부 '당신의 안전'을 위해서 그러는 것이니까요. 적어도 그들이 우리에게 늘어놓는 핑계는 그렇습니다.
클로드 페이블 5, 종말의 시작
앤트로픽(Anthropic)이 새로운 플래그십 모델인 클로드 페이블 5(Claude Fable 5)를 출시했습니다. 그동안 일반 사용자에게는 철저히 통제되었던 신화적 등급, 즉 '미토스 급(Mythos-class)'의 역량을 사상 처음으로 일반 대중에게… '대충' 공개한 것입니다.
앤트로픽은 페이블 5를 지금까지 대중에게 공개된 모델 중 가장 뛰어난 성능을 자랑한다고 설명합니다. 코딩, 전문 지식 노동, 비전(Vision), 장기 문맥 추론(Long-context reasoning), 그리고 과학 연구 분야에서 비약적인 진전을 이뤄냈다는 평입니다.
앤트로픽은 페이블 5와 함께 클로드 미토스 5(Claude Mythos 5)도 동시에 선보였습니다. 두 모델은 동일한 기반 모델(Underlying model)을 공유하지만, 배포 방식에서 완전히 갈립니다.
페이블 5 (Fable 5): 일반 대중, 혹은 저와 당신 같은 '평민들'(또는 그 비싼 비용을 감당할 수 있는 자들)이 사용할 수 있는 버전입니다.
미토스 5 (Mythos 5): 검증된 파트너들을 위해 안전장치(Safeguards)를 해제한 한층 관대한 버전입니다. '프로젝트 글래스윙(Project Glasswing)'에 참여하는 사이버 방어 안보 기업 및 핵심 인프라 기관들이 첫 타자입니다. 눈치채지 못하신 분들을 위해 쉽게 말하자면, 네, '돈 많은 형님들' 이야기입니다.
사이버 역량이 뛰어난 강력한 모델을 사이버 보안관들에게 먼저 제공하는 것이 말이 된다고 고개를 끄덕이실지도 모르겠습니다. 저도 그 부분은 동의합니다. 하지만 진짜 문제는 프로젝트 글래스윙의 멤버들을 들여다보면 발생합니다. 그들 중 상당수는 사이버 보안 기업이 아닙니다. 대신 한 가지 확실한 공통점이 있죠. 그들은 대단한 ✨자산가✨이거나, ✨파트너✨이거나, 당연하게도 ✨투자자✨들이라는 점입니다.
냉소적인 시선을 잠시 거두고(오래 거두진 않을 겁니다) 객관적으로 보면, 이 모델은 어느 모로 보나 엔지니어링의 경이로움 그 자체이며 가는 곳마다 신기록을 갈아치우고 있습니다.
인공지능의 한계(적어도 벤치마크 기준)를 이토록 밀어붙인 모델을 본 것은, 지난 2024년 9월 오픈AI의 o1이나 2023년 3월의 GPT-4 시절 이후 실로 오랜만입니다.
당연하게도 가장 강조된 분야는 소프트웨어 엔지니어링입니다. 앤트로픽에 따르면 초기 테스터들은 페이블 5가 장기적인(Long-horizon) 코딩 작업과 에이전트 기반 엔지니어링 작업에서 압도적인 강세를 보였다고 전합니다.
일례로 스트라이프(Stripe)는 이 모델을 사용해 무려 5,000만 줄에 달하는 루비(Ruby) 코드베이스 전체를 단 하루 만에 마이그레이션하는 데 성공했다고 합니다. 앤트로픽의 설명대로라면 개발팀 전체가 매달려 수작업으로 두 달 이상 걸릴 일을 단번에 끝낸 것입니다. 다른 파트너들 역시 페이블 5가 코딩의 신뢰성, 자율 소프트웨어 작업, 프로토타이핑, 그리고 도구 활용(Tool use) 능력 면에서 한 단계 진화했다고 입을 모았습니다.
또한 금융, 법률 검토, 표 분석, 비전 등 고도의 전문 지식 노동을 겨냥하고 있으며, 이 모든 영역에서 최고 수준(State-of-the-art)의 성능을 달성했다고 주장합니다.
가격 정책도 눈여겨볼 만합니다. 앤트로픽은 페이블 5와 미토스 5의 가격을 입력 토큰 100만 개당 10달러, 출력 토큰 100만 개당 50달러로 책정했습니다. 회사 측은 이것이 기존 클로드 미토스 프리뷰(Claude Mythos Preview) 가격의 절반 이하라고 강조합니다. 전형적인 '가격 닻 내리기(Price anchoring)' 수법이죠. 대중에게 공개하지도 않을 어마어마하게 비싼 모델을 먼저 보여준 뒤, 상대적으로 이번 모델을 싸 보이게 만드는 기만술입니다.
바로 이 지점이 핵심 문제입니다. 이번 출시는 평범한 신제품 발표가 아닙니다. 당신을 향해 "당신들은 이 기술을 누릴 자격이 없다"고 선언하는 메시지입니다.
진짜 핵심은 '출시되지 않은 것'에 있다
단도직입적으로 말해, 앤트로픽은 자신들의 가장 강력한 모델인 '미토스'를 대중에게 온전히 공개하지 않고 있으며, 앞으로도 영원히 공개하지 않을 가능성이 큽니다.
우리가 쓸 수 있는 대중화 버전은 미토스 급의 안전장치가 떡칠 된 '페이블'입니다. 흥미로운 점은, 이것이 통제된 미토스와 아예 다른 모델이 아니라는 사실입니다. 그저 촘촘한 '규제 가이드라인(Guardrails)'이라는 족쇄가 채워진 동일한 모델일 뿐입니다.
더 구체적으로 말하자면, 향후 기술 발전의 흐름에 매우 위험한 선례를 남길 수준의, "설마 기업이 이 정도까지 하겠어?" 싶은 수준의 검열 족쇄입니다.
당신을 항시 감시하는 보이지 않는 스파이들
가이드라인(Guardrails)을 사용하는 것 자체는 새로운 일이 아닙니다. 수백만, 수십억 명의 사용자에게 서비스를 제공하는 주요 AI 연구소들은 모두 이를 적극적으로 도입하고 있습니다.
원리는 간단합니다. 위험한 요청을 식별하고 차단(일부 경우 신고)하는 것입니다. 예를 들어 감옥을 탈출하기 위해 칼을 만드는 법을 물어보면 모델은 당연히 거부합니다.
앤트로픽의 경우, 사용자의 입력값과 대화 출력값을 실시간으로 읽고 추적하여 위험한 상황이 발생하지 않도록 감시하는 작은 하위 모델들이 이 가이드라인 역할을 수행합니다.
이러한 감시 체계를 대규모로 상시 구동하는 것은 비용이 막대하기 때문에, 앤트로픽은 분류기(Classifiers)와 가벼운 프로브(Lightweight probes)를 활용합니다. 특히 구동 비용이 매우 저렴한 프로브는 모델의 '내부 활성화 상태'(모델의 속마음 혹은 내부 사고 과정이라 보시면 됩니다)를 수시로 쑤셔보며 위험하거나 잠재적으로 불순한 조짐이 보이면 즉시 경고등을 켭니다.
이 글의 본질이 아니기에 기술적 세부 사항을 다 설명할 수는 없지만, 앤트로픽은 이에 대한 논문까지 발표한 바 있습니다.
대체로 분류기 시스템은 충분히 납득할 수 있습니다. 문제는 그 선을 어디 선에서 긋느냐는 것입니다. 이 검열이 과해지면 아무런 해가 없는 순수한 요청조차 불순분자로 낙인찍혀 거절당하는 '오탐(False positive)'이 발생합니다. 규제가 너무 공격적이면 모델 자체가 아예 쓸모없어지게 되는데, 앤트로픽은 이제껏 우리가 보지 못했던 완전히 다른 차원으로 이 규제의 족쇄를 끌어올려 위험한 선을 넘버렸습니다. 그야말로 전례가 없는 일입니다.
소리 소문 없는 모델 성능 하향 (Silent Downgrades)
이번 출시가 제대로 '논란'이 되는 지점은 앤트로픽이 이러한 규제를 처리하는 음충한 방식에 있습니다.
만약 그들의 감시 분류기가 사이버 보안, 생물학, 화학, 혹은 지식 추출(Distillation) 시도와 관련된 주제를 감지하면, 그것이 악의가 없는 순수한 의도의 질문이든 아니든 상관없이 당신의 모델은 자동으로 클로드 오퍼스 4.8(Claude Opus 4.8)로 강등(Downgrade)됩니다. 모든 면에서 한참 뒤처지는 하위 모델로 말입니다.
즉, 당신이 아무리 선량하고 정의로운 사용자라 할지라도 해당 전문 분야에서는 최고 존엄 모델을 절대 사용할 수 없다는 뜻입니다.
결국 앞서 화려하게 자랑했던 벤치마크 표는 오직 '선택받은 소수 엘리트'만을 위한 수치일 뿐이며, 나머지 평민들이 마주하게 될 현실은 앤트로픽이 기술을 숨기고 싶어 하는 핵심 영역에서 완벽한 '빵점짜리 무능한 AI'일 뿐입니다. 그런 상황이 오면 AI는 이전 세대의 열등한 모델로 슬그머니 '대체(Fallback)'되어 버립니다.
이것만으로도 기가 차는데, 그들은 한 걸음 더 나아갔습니다. 만약 사용자가 이 모델을 'AI 개발 및 연구 목적'으로 활용하려 한다는 것을 감지하면, 모델은 의도적으로 훨씬 더 형편없는 답변을 내놓기 시작합니다.
네, 제대로 읽으신 게 맞습니다. 제품이 의도적으로 멍청해지는 것입니다.
그리고 가장 악질적인 부분은, 그들이 당신의 모델 성능을 고의로 떨어뜨리고 있다는 사실을 당신에게 절대 알려주지 않는다는 점입니다!
오퍼스 4.8로 강제 대체되는 경우에는 최소한 하향되었다는 안내 메시지라도 뜹니다. 하지만 최첨단 LLM 개발(Frontier LLM development)이라는 주제에 다다르면 모델은 '조용히 실패(Fails silently)'합니다. 답변은 그럴싸하게 내놓지만, 그것은 하위 버전의 모델이 아니라 일부러 뇌를 도려내 바보로 만든(Dumbified) 본체 모델의 답변입니다.
그들의 발표 자료를 보면 프롬프트 변형(Prompt modification), 벡터 스티어링(Vector steering), 심지어 로라 어댑터(LoRA adapters) 같은 기술을 동원해 고의로 답변의 질을 떨어뜨린다고 명시되어 있습니다. 다시 말하지만, 일부러 말입니다!
프롬프트 변형: 사용자의 질문을 강제로 수정하여 모델이 아예 다른 질문을 보게 만듭니다.
벡터 스티어링: 모델의 내부 활성화 상태(속마음)를 교란하여 멍청한 소리를 하도록 유도합니다. 비유하자면 특정 질문을 받을 때마다 AI에게 강제로 전두엽 절제술(Lobotomy)을 시술하는 것과 같습니다.
LoRA 어댑터: 모델의 행동 마디를 가볍게 변형하는 필터입니다. 어댑터가 꽂혀 있는 동안에는 모델의 행동이 제약되다가, 빼면 원래대로 돌아옵니다. 보통은 성능을 향상하기 위해 쓰이지만, 이번 케이스는 AI에게 강제로 술을 먹이는 꼴입니다. 시스템에 알코올이 도는 동안 AI는 인사불성이 되어 멍청하게 행동하게 됩니다.
돈은 돈대로 다 받으면서 고객이 쓰는 제품의 성능을 고의로 떨어뜨리는 기업은 제 평생 처음 봅니다. 이런 리스크를 안고도 이 모델을 도입하려는 기업 임원이 있다면, 당장 리스크 관리 수업부터 다시 듣고 와야 할 것입니다.
여기에 기업 고객들을 위한 화룡점정이 하나 더 있습니다. 이 모델들은 더 이상 '당일 데이터 삭제(Zero-day retention)'를 보장하지 않습니다. 앤트로픽은 최소 30일간 데이터를 의무 보유하겠다고 선언했습니다. 오늘 글의 메인 주제는 아니지만, 보안을 중시하는 대부분의 기업에 이는 치명적인 거래 거절 사유(Deal-breaker)가 될 것이라 확신합니다.
이 모든 정황이 시사하는 바는 명확합니다. 우리는 지금 두 개의 계급, 즉 '지배 계급(Ruling class)'과 '영구 하층 계급(Permanent underclass)'으로 쪼개지는 AI 미래의 서막을 목격하고 있습니다.
우리가 절대 원해서는 안 될 미래
그들이 주장하는 과학적 진보의 시나리오를 예로 들어봅시다. 앤트로픽이 소리 높여 외치는 찬란한 과학적 돌파구와 최첨단 연구 역량은 대중에게 공개된 페이블 5가 아니라, 철저히 통제된 미토스 5에 결속되어 있습니다. 당신과 저에게는 접근권조차 주어지지 않은 그 모델 말입니다.
그뿐만 아니라, 앤트로픽은 미토스 5가 신약 개발, 단백질 구조 설계, 분자 생물학 가설 수립, 유전체학 연구 등에서 압도적인 성과를 보였다고 자랑합니다. 역시나 우리가 만져볼 수도 없는 모델의 이야기입니다.
이 글을 읽고 있는 불쌍한 평민 독자 여러분, 그리고 글을 쓰고 있는 또 다른 평민인 저에게는 아직 저 대단한 역량을 누릴 권리가 없습니다. 고결하고 부유하신 자본가 주인님들이 먼저 기술을 충분히 만끽하고 나서야, 어쩌면 그제야 우리에게도 찌꺼기 같은 기회가 떨어질지도 모르죠.
앤트로픽은 엄선된 일부 바이오 의학 연구원과 대기업들에 한해 안전장치가 일부 제거된 미토스 급의 역량을 제공하는 '신뢰 파트너 프로그램'을 열 계획이라고 합니다. 하지만 현재로서는 족쇄가 채워진 페이블 모델은 아주 간단한 수준의 생물학 질문조차 제대로 대답하지 못하는 고자 상태입니다.
재미있는 건, 이 모든 수모를 겪고도 자존심을 굽힌 채 이 모델을 구독해서 쓰겠다는 평민이 있을지라도, 그 권한마저 아주 짧은 기간만 허용된다는 점입니다.
페이블 5는 현재 월간 구독 서비스 회원들에게 6월 22일까지만 제공됩니다. 6월 23일 이후부터는 앤트로픽의 시스템 용량이 표준 구독 내에서 서비스를 원활히 제공할 수 있을 때까지 '종량제 크레딧(Usage credits)'을 별도로 구매해야만 쓸 수 있습니다.
즉, 6월 23일부터는 모델을 쓰고 싶다면 입력/출력 토큰 100만 개당 $10/$50라는 어마어마한 독소 가격을 생돈으로 내야 한다는 뜻입니다. 대다수의 평범한 사람들은 감당할 수 없는 수준의 금액이죠. 한 달 내내 헤비하게 사용한다면 수백에서 수천 달러에 달하는 청구서를 마주하게 될 것입니다.
앤트로픽의 이번 출시는 정말이지 까도 까도 괴담만 나오는 선물이 아닐 수 없습니다. 최고 존엄 모델의 접근을 불허하는 것에 모자라, 일부러 바보로 만든 열등한 모델조차 경제적으로 능력이 안 되는 이들은 쓸 수 없도록 쫓아내고 있습니다. 부자가 아니라면 아웃입니다. 그리고 설령 부자라 할지라도 특권층 카르텔의 멤버가 아니라면 여전히 아웃입니다.
당연하게도 앤트로픽은 이 모든 치졸한 기만책을 그들 특유의 거만하고 위선적인 '안전 전략'이라는 포장지로 감싸고 있습니다. "내 잘못이지 네 잘못이 아니야. 네가 위험해서가 아니라, 다 널 보호하기 위해서 그러는 거야." 라는 식이죠.
앤트로픽의 행동은 마치 밤에 친구들과 놀러 나가려는 여자친구에게 "널 지겁게 아끼고 보호하기 위해서" 못 나가게 가스라이팅을 일삼는 찌질하고 통제욕이 강한 유독한 남자친구(Toxic boyfriend)를 연상시킵니다. 혹은 차마 본심을 솔직하게 말하지 못해 "네가 문제가 아니라 내가 문제야"라며 이별을 고하는 비겁한 연인과 다를 바가 없습니다.
결국 이 모든 행동의 진짜 숨은 의도는 명확합니다. 대중에게 기술에 대한 '공포와 두려움'을 의도적으로 유포하여 강력한 규제 법안을 제정하도록 정부를 압박하는 것입니다. 그렇게 되면 실리콘밸리의 극소수 억만장자 지배자들만이 기술의 통제권을 쥐고, 일반 대중에게는 언제든 주물럭거릴 수 있는 열등한 하위 기술만 배급하는 독점 체제를 공고히 할 수 있기 때문입니다.
이것은 인류가 역사적으로 이룩해 온 기술 발전의 궤적, 특히 디지털 기술의 역사에 대한 전면적이고 용서받지 못할 배신입니다. 예를 들어 인터넷은 누구나 자유롭게 탐색할 수 있습니다. 인터넷은 그 어떤 단일 개체도 기술을 독점하지 못하도록 봉사한 '오픈 소스' 정신의 토대 위에서 탄생했습니다.
역설적이게도 앤트로픽이라는 회사 자체도 그 위대한 유산의 수혜자입니다.
그들은 우리의 동의 없이 대중의 웹 데이터를 긁어모아 모델을 훈련했습니다.
그들은 구글이 인류를 위해 공개한 트랜스포머(Transformer) 아키텍처나 전문가 혼합(MoE) 신경망 같은 오픈 소스 발견물들을 가져다 이 모델들을 만들었습니다.
그리고 오늘날, 그들은 기술을 빌려준 정당한 대중의 접근을 가로막고 있습니다.
타인의 노동력과 데이터로 단물은 다 빨아먹고 성장해 놓고는, 이제 와서 자신들의 뒤를 쫓아오지 못하도록 사다리를 걷어차 버리는 꼴입니다. 우리가 왜 이런 행태를 순순히 용인해야 합니까?
가장 강력한 기술을 창조하는 유일한 해결책이 '모든 사람으로부터 그 기술을 숨기는 것'이라고 믿는 정신 나간 사람이 대체 어디 있단 말입니까? 이토록 막강한 권력을 쥔 기술이, 누구에게 접근권을 줄지 자의적으로 결정하는 극소수 특권층 카르텔의 손아귀에 휘둘려야 한단 말입니까?
이것이 중국 공산당이 "시민을 보호한다"는 명분으로 외부 인터넷 접속을 전면 통제하는 독재 행위와 도대체 무엇이 다릅니까?
만약 우리가 이 위험한 길을 묵인하고 계속 걸어간다면, 머지않은 미래에 당신은 길거리에서 사소한 말다툼을 벌였다는 이유로 향후 두 달간 AI 사용을 금지당하거나, 병원비가 몇 달 연체되었다는 이유로 당신의 AI 주치의가 소리 소문 없이 '인공지능 하향 시술'을 받아 멍청해지는 끔찍한 현실을 마주하게 될 것입니다.
그들은 선을 넘어도 한참 넘었습니다. 저는 앤트로픽이 자신들의 치명적인 과오를 깨닫고 당장 이 오만한 정책을 시정할 것을 촉구합니다.
조만간 기업 공개(IPO)를 앞두고 있어 막대한 경제적 성공의 압박을 받고 있다는 점은 잘 압니다. 오픈AI 역시 동일한 압박을 받고 있고 저 역시 그들에게 불만이 많지만, 최소한 그들은 이 정도로 무모하고 무례하게 행동하진 않습니다.
그리고 여러분도 마찬가지겠지만, 정작 가장 피가 거꾸로 솟는 부분은 모델을 쓰지 못한다는 사실 자체가 아닙니다. 대중의 데이터로 지배자가 될 준비를 마친 자들이, 정작 그 기술을 제공한 대중을 철저히 배제하면서 늘어놓는 그 가증스럽고 훈계조의 ' 가스라이팅성 변명'입니다.
다행히도 미국에는 기술이 진정으로 세상을 혁신하고 고르게 확산하려면 반드시 '오픈 소스' 형태여야 함을 잘 이해하고 있는 훌륭한 기업들이 아직 남아 있습니다. 엔비디아(NVIDIA), AI2, 아시(Arcee), 프라임 인텔렉트(Prime Intellect), 그리고 때에 따라 구글(Google) 같은 기업들은 외부인들이 기술 소외를 겪지 않도록 모델과 연구 자료를 꾸준히 세상에 환원하고 있습니다.
심지어 폐쇄형 생태계를 지향하는 오픈AI나 메타(Meta)조차도, 사용자가 자신들과 경쟁할 만한 서비스를 개발한다고 해서 고의로 모델에 뇌 절제술을 시술해 바보로 만들지는 않습니다. 제가 반독점법 전문가는 아닙니다만, 이건 정말이지 선을 세게 넘은 거 아닙니까?
만약 이것이 AI가 지향하는 미래라면, 저는 거부하겠습니다. 인공지능이 스스로를 신이라 착각하는 극소수의 손에 놀아나는 권력 도구가 된다면, 저는 그런 기술 따위 필요 없습니다.
저는 미국이 진정으로 올바른 방향으로 나아가기를 바랍니다. 그리고 앤트로픽, 당신들이 보여준 이번 행태는 절대로 정답이 아닙니다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.