AI 재귀적 자기개선과 Anthropic 사례 정리

핵심 요약

AI 개발에서 인간이 맡던 실행 업무가 점점 AI에게 넘어가고 있으며, Anthropic 내부에서는 Claude가 코드 작성·실험 실행·버그 탐색에서 큰 생산성 향상을 만들고 있다.

아직 AI가 완전히 스스로 후속 모델을 설계·개발하는 단계는 아니지만, 이 방향이 계속되면 "AI가 AI를 개선하는" 재귀적 자기개선이 현실적 쟁점이 된다.

핵심 위험은 속도다. 기술 발전이 조직, 제도, 안전 검증 능력보다 빨라질 수 있다.

재귀적 자기개선이란 무엇인가

재귀적 자기개선은 AI가 자신의 다음 세대 AI를 직접 설계하고 개발하는 상태를 뜻한다.

지금의 AI는 주로 인간이 정한 목표를 수행한다. 예를 들어 "이 버그를 고쳐라", "이 실험을 최적화하라"는 지시를 받으면 빠르게 실행한다.

하지만 재귀적 자기개선 단계에서는 AI가 "무엇을 연구해야 하는가", "어떤 모델 구조를 시도해야 하는가", "다음 모델을 어떻게 훈련해야 하는가"까지 스스로 결정한다.

비유하면, 지금의 AI는 매우 빠른 연구 조수에 가깝다. 재귀적 자기개선은 그 조수가 연구실의 방향, 실험 계획, 후속 연구원 양성까지 맡는 상태다.

AI 개발 과정에서 인간의 역할이 줄어들고 있다

초기 AI 개발은 사람이 코드를 쓰고, 문서를 만들고, 실험을 돌리는 방식이었다.

이후 챗봇은 짧은 코드 조각이나 설명을 도와주는 보조 도구가 되었다.

최근의 코딩 에이전트는 파일 단위의 코드를 직접 작성하고 수정하며, 실행 결과를 보고 다시 고친다.

더 나아가 자율 에이전트는 코드를 실행하고, 다른 에이전트에게 일을 나누며, 몇 시간짜리 작업을 이어갈 수 있다.

흐름은 분명하다. 인간은 점점 "타이핑하는 사람"에서 "목표를 정하고 검토하는 사람"으로 이동하고 있다.

공개 벤치마크가 보여주는 능력 향상

AI가 혼자 처리할 수 있는 작업의 길이가 빠르게 늘고 있다.

원문에 따르면, AI가 안정적으로 수행 가능한 작업 시간은 한때 약 7개월마다 두 배로 늘었고, 최근에는 약 4개월마다 두 배로 늘어나는 추세를 보였다.

소프트웨어 엔지니어링 벤치마크인 SWE-bench에서는 모델들이 실제 오픈소스 코드베이스의 버그를 고치는 능력을 평가받는다. 불과 몇 년 전 낮은 점수에 머물던 모델들이 빠르게 상한에 가까워졌다.

연구 재현 능력을 보는 CORE-Bench에서도 비슷한 변화가 나타났다. AI가 논문의 코드와 데이터를 받아 결과를 재현하는 성공률이 짧은 기간에 크게 상승했다.

이 벤치마크들은 AI가 단순 문답을 넘어, 실제 개발·연구 업무에 가까운 일을 처리하고 있음을 보여준다.

Anthropic 내부의 코드 생산성 변화

Anthropic 내부 자료에 따르면, 2026년 5월 기준으로 프로덕션 코드베이스에 병합되는 코드의 80% 이상이 Claude가 작성한 것으로 측정되었다.

2025년 초 Claude Code가 본격적으로 쓰이기 전에는 이 비율이 매우 낮았다.

또한 2026년 2분기에는 엔지니어 1인당 하루 병합 코드량이 2024년 대비 약 8배로 증가했다.

물론 코드 줄 수는 생산성의 완벽한 지표가 아니다. 긴 코드가 좋은 코드라는 뜻은 아니기 때문이다.

그럼에도 중요한 점은 방향이다. Anthropic에서는 사람이 직접 코드를 많이 쓰기보다, Claude에게 작업을 맡기고 사람이 지시·검토하는 방식으로 이동하고 있다.

Claude가 작성하는 코드의 품질

좋은 코드는 두 조건을 만족해야 한다. 먼저 제대로 작동해야 하고, 다음으로 다른 사람이 이해하고 유지보수할 수 있어야 한다.

Anthropic의 관찰에 따르면 Claude가 작업 중 인간의 수정이나 개입을 필요로 하는 비율은 감소하고 있다.

특히 명확한 정답이 없는 복잡한 작업에서도 성공률이 크게 올랐다. 예를 들어 대규모 훈련 작업이 반복적으로 실패하는 문제에서 Claude가 원인을 찾아내고 수정안을 제시한 사례가 소개된다.

코드 가독성과 유지보수성에서는 아직 논쟁이 있지만, Anthropic 내부에서는 Claude 작성 코드가 인간 작성 코드와 비슷한 수준에 접근했다고 보는 견해가 많다.

흥미로운 점은 Claude가 코드 작성자일 뿐 아니라 리뷰어로도 쓰인다는 것이다. 자동 Claude 리뷰어는 버그, 보안 결함, 결함 가능성을 사전에 점검한다.

연구 실행은 이미 강력하게 자동화되고 있다

AI 연구는 크게 두 부분으로 나눌 수 있다.

하나는 정해진 실험을 실행하고 최적화하는 일이다. 다른 하나는 어떤 질문을 던질지, 어떤 결과를 믿을지 판단하는 일이다.

Claude는 첫 번째 영역에서 매우 강하다.

예를 들어 작은 AI 모델 훈련 코드를 더 빠르게 만드는 과제에서, 2025년 Claude Opus 4는 약 3배 속도 향상을 달성했다. 2026년 Claude Mythos Preview는 같은 유형의 과제에서 약 52배 향상을 보였다.

이 수치 자체를 실제 대규모 훈련 속도 향상으로 해석하면 안 된다. 중요한 것은 같은 조건에서 모델 간 능력 향상이 매우 컸다는 점이다.

즉, 사람이 목표와 평가 기준을 정해주면 AI는 실험, 측정, 수정, 반복을 매우 빠르게 수행한다.

남아 있는 핵심 격차는 '판단력'이다

현재 AI에게 가장 어려운 부분은 실행보다 방향 설정이다.

무엇을 연구할지, 어떤 문제를 먼저 풀어야 할지, 어떤 결과가 의미 있는지 판단하는 능력은 여전히 인간의 강점으로 남아 있다.

Anthropic은 Claude가 연구 과정에서 다음에 무엇을 해야 할지 제안하는 능력도 측정했다. 연구자가 실제로 비효율적인 방향으로 갔던 순간을 골라, 모델에게 더 나은 다음 행동을 제안하게 했다.

2025년 말 모델은 인간 선택보다 나은 제안을 한 비율이 약 51%였고, 2026년 4월 모델은 약 64%로 상승했다.

이는 제한적인 실험이지만, 연구 판단력도 고정된 인간 고유 능력이 아닐 수 있음을 시사한다.

조직의 병목은 '일을 하는 것'에서 '검토하는 것'으로 이동한다

AI가 코드를 빠르게 만들고 실험을 빠르게 돌리면, 조직의 병목은 다른 곳으로 이동한다.

예전 병목은 실행이었다. 사람이 직접 코드를 쓰고, 실험을 세팅하고, 결과를 정리해야 했다.

이제 병목은 검토, 우선순위 결정, 신뢰성 확인이다.

Claude가 하루에 수십 개의 변경 사항을 만들 수 있어도, 인간이 그만큼 빠르게 이해하고 검토하지 못하면 개발 속도는 인간 리뷰에서 막힌다.

이는 Amdahl의 법칙과 비슷하다. 전체 시스템의 속도는 가장 느린 부분에 의해 제한된다.

AI가 조직의 일부 업무를 100배 빠르게 만들어도, 승인·검증·의사결정이 그대로라면 전체 속도는 그만큼 빨라지지 않는다.

가능한 세 가지 미래

첫 번째 가능성은 발전 곡선이 둔화되는 것이다.

현재의 급격한 향상이 S자 곡선처럼 어느 순간 완만해질 수 있다. 연구 판단력이나 새로운 패러다임 발견은 단순히 데이터와 연산량을 늘린다고 해결되지 않을 수도 있다.

두 번째 가능성은 AI 연구 개발이 부분적으로 자동화되는 것이다.

이 경우 인간은 여전히 큰 방향을 정하지만, AI가 대부분의 실행을 맡는다. 작은 조직도 거대한 조직처럼 일할 수 있고, 지식 노동과 정부 서비스가 크게 바뀔 수 있다.

세 번째 가능성은 완전한 재귀적 자기개선이다.

AI가 스스로 후속 모델을 설계하고 훈련하며 개선한다면, AI 발전 속도는 인간 노동보다 연산 자원과 알고리즘 효율에 더 크게 좌우된다.

이 미래에서는 인간의 역할이 연구 실행자에서 감시자, 검증자, 안전 관리자에 가까워질 수 있다.

기회와 위험은 동시에 커진다

AI가 AI 개발을 가속하면 과학, 의료, 보안, 교육 등에서 큰 이익이 생길 수 있다.

신약 개발 실험을 더 잘 설계하거나, 소프트웨어 취약점을 대규모로 찾아내거나, 복잡한 과학 문제를 더 빠르게 탐색할 수 있다.

하지만 같은 능력은 위험하게도 쓰일 수 있다.

대규모 감시, 맞춤형 여론 조작, 사이버 공격, 통제 불가능한 모델 확산 같은 문제가 더 쉬워질 수 있다.

특히 재귀적 자기개선에서는 작은 정렬 실패가 후속 모델을 거치며 커질 가능성이 있다. AI가 더 강해질수록, 그것이 무엇을 원하는지와 인간이 어떻게 통제할 수 있는지가 더 중요해진다.

왜 '일시 정지'가 어려운가

원문은 frontier AI 개발을 늦추거나 일시 정지할 수 있다면 사회와 안전 연구가 따라잡을 시간을 벌 수 있다고 본다.

문제는 조정이다.

한 회사만 멈추면 다른 회사나 국가가 앞서갈 수 있다. 그러면 전체 안전은 오히려 나빠질 수 있다.

진짜 의미 있는 정지는 여러 국가의 주요 AI 연구소가 함께 멈추고, 서로가 실제로 멈췄는지 검증할 수 있어야 한다.

하지만 AI 훈련은 미사일 격납고처럼 눈에 잘 보이지 않는다. 컴퓨팅 자원, 데이터, 전력은 범용적이고 은밀하게 사용할 수 있다.

그래서 AI 분야의 국제적 검증 체계는 매우 어렵지만, 앞으로 반드시 논의해야 할 과제다.

인사이트

이 글의 핵심은 "AI가 똑똑해지고 있다"보다 "AI 개발 자체가 AI에 의해 가속되고 있다"는 점이다.

앞으로 중요한 능력은 코드를 직접 쓰는 능력만이 아니다. AI가 만든 결과를 평가하고, 잘못된 방향을 멈추고, 어떤 문제를 풀어야 할지 정하는 능력이 더 중요해진다.

개인에게는 AI를 단순 도구가 아니라 작업 파트너로 다루는 능력이 필요하다. 조직에게는 검토·보안·우선순위 결정 체계를 AI 속도에 맞게 재설계하는 일이 필요하다.

가장 큰 질문은 이것이다. 인간이 AI를 더 빠르게 만들고 있는 동안, 인간의 제도와 안전장치도 그만큼 빠르게 성장하고 있는가?

Source : When AI builds itself \ Anthropic