AI 경쟁은 오랫동안 “누가 더 큰 모델을 더 많은 GPU로 학습하느냐”에 가까웠습니다. Sakana AI가 RSI Lab을 출범시킨 일이 주목받는 이유는 이 경쟁의 질문을 조금 바꾸기 때문입니다. 더 큰 모델을 만드는 것만이 아니라, AI가 스스로 더 나은 AI 개발 과정을 찾아낼 수 있는가가 핵심이 됩니다.
RSI는 무엇인가
RSI는 Recursive Self-Improvement, 즉 AI 시스템이 자기 자신을 지속적으로 업그레이드하는 개념입니다.1 단순히 코드 작성이나 실험 일부를 자동화하는 것과는 다릅니다. 연구 아이디어를 만들고, 구현하고, 검증하고, 다음 개선 방향을 선택하는 과정까지 AI가 점점 더 많이 담당하는 흐름을 가리킵니다.
이 개선 사이클을 AI가 인간보다 더 잘 관리하기 시작하면 폐쇄 루프가 될 수 있습니다.1 예를 들어 AI가 새 방법을 제안하고, 실험을 돌리고, 결과를 평가한 뒤, 다시 더 나은 방법을 제안하는 구조입니다.
다만 RSI를 “무한히 폭주하는 자기개선”으로 이해하면 곤란합니다. 폐쇄 루프가 가능하더라도 접근 가능한 컴퓨팅 자원은 한계로 남습니다.1 검증 능력과 안전장치 역시 중요한 제약입니다. 결국 RSI의 현실적 쟁점은 “AI가 스스로 개선할 수 있는가”뿐 아니라 “그 개선을 얼마나 안정적으로 평가하고 통제할 수 있는가”입니다.
Sakana AI RSI Lab이 겨냥하는 변화
Sakana AI는 2023년에 설립된 일본 AI 스타트업으로, 전 Google 연구원 Llion Jones와 David Ha 등이 세운 회사입니다. 이번에 Sakana AI는 재귀적 자기개선을 연구하는 Sakana AI RSI Lab을 출범시켰습니다.2
이 발표의 핵심은 초대형 컴퓨팅 클러스터를 가진 소수 연구소만 프런티어 AI를 만들 수 있다는 구도에 대한 문제 제기입니다. Sakana AI가 강조하는 방향은 더 많은 연산을 투입하는 경쟁이 아니라, 더 효율적인 탐색과 검증을 통해 AI 개발 루프 자체를 개선하는 것입니다.
회사가 제시한 기존 프로젝트들도 이 흐름과 맞닿아 있습니다. Sakana AI는 LLM-Squared, Darwin Gödel Machine, ShinkaEvolve, ALE-Agent, The AI Scientist를 관련 연구 프로젝트로 소개했습니다.2 이들은 공통적으로 AI가 연구, 코드, 실험, 평가 과정의 일부를 자동화하거나 확장하는 방향에 놓여 있습니다.
예를 들어 ShinkaEvolve는 적은 샘플로 프로그램 진화를 시도한 프로젝트로 제시됐고, ALE-Agent는 AtCoder Heuristic Contest에서 인간 참가자 804명 중 1위를 기록했다고 회사는 설명합니다.2 The AI Scientist는 아이디어 생성, 실험, 논문 작성, 리뷰까지 연구 루프를 넓게 자동화하려는 시도이며, Sakana AI에 따르면 이후 버전은 동료심사를 통과한 논문을 작성했습니다.3
핵심은 “얼마나 루프가 닫혔는가”다
RSI를 평가할 때 중요한 것은 “AI가 똑똑해졌다”는 막연한 표현이 아닙니다. 실제로 봐야 할 것은 개선 루프가 어디까지 닫혔는지입니다.
AI가 코드를 작성하는 것과, AI가 목표를 설정하고 실험을 설계하며 결과를 검증하고 다음 개선 방향까지 고르는 것은 전혀 다른 수준의 자율성입니다. 그래서 RSI 관련 발표를 볼 때는 다음 세 가지를 따져볼 필요가 있습니다.
첫째, 개선이 반복될수록 실제 성능이 누적되는가. 한 번의 실험 성공이 아니라, 여러 차례의 반복에서 안정적인 향상이 확인되어야 합니다.
둘째, 벤치마크에만 맞춘 개선이 아닌가. 특정 평가 지표를 잘 통과하는 것과 실제 배포 환경에서 유효한 개선은 다를 수 있습니다.
셋째, 인간 개입이 줄어도 검증과 안전성이 유지되는가. RSI의 가치는 자동화에 있지만, 위험도 자동화될 수 있습니다. 따라서 검증 체계가 개선 루프만큼 중요합니다.
기업과 개발자가 배울 점
Sakana AI RSI Lab의 의미는 “자기개선 AI가 이미 완성됐다”는 것이 아닙니다. 더 정확히는 AI 경쟁의 축이 단순한 연산량 확대에서 개선 루프의 품질로 이동하고 있다는 신호에 가깝습니다.
Richard Socher가 출범시킨 Recursive Superintelligence도 RSI를 연구 목표로 내세웠고, Socher는 이를 연구 아이디어의 발상, 구현, 검증 전 과정을 자동화하는 것으로 설명했습니다.1 Andrej Karpathy의 Auto-Research 프로젝트 역시 에이전트 군집을 사용해 LLM을 단순 작업에 훈련하는 접근을 보여줍니다.1 즉 Sakana AI의 움직임은 고립된 사건이라기보다, AI 연구 자동화와 자기개선 루프를 향한 더 넓은 흐름 속에 있습니다.
기업과 개발자에게 실용적인 교훈도 분명합니다. 더 큰 모델을 도입하는 것만으로는 충분하지 않습니다. 먼저 평가 기준을 명확히 하고, 실험을 자동화하며, 결과를 반복적으로 비교할 수 있는 체계를 만들어야 합니다. 앞으로의 경쟁력은 모델 크기뿐 아니라 “얼마나 빠르고 안전하게 개선을 반복할 수 있는가”에서 나올 가능성이 큽니다.
1RSI is the new AGI -- and it's just as hard to pin down
2Introducing Sakana AI's Recursive Self-Improvement (RSI) Lab
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.