Sakana AI의 Darwin-Gödel Machine은 성능 향상을 위해 자체 코드를 재작성하여 진화합니다.
- Sakana AI는 자가 코드 수정과 개방형 탐색을 통해 스스로 발전하는 AI 시스템인 Darwin-Gödel Machine (DGM)을 소개했습니다.
- 일본의 스타트업 Sakana AI와 브리티시컬럼비아 대학 연구진은 자가 진화하는 AI 프레임워크인 DGM을 개발했습니다.
- DGM는 고정된 목표를 최적화하는 대신 생물학적 진화 및 과학적 발견에서 영감을 받아, 연속적인 자기 수정과 개방형 검색을 통해 새로운 솔루션을 생성합니다.
- AI 에이전트는 자신을 지속적으로 수정하면서 새로운 코드 버전을 생성하고 SWE-bench 및 Polyglot 등의 벤치마크로 성능을 평가받습니다.
- 자기 수정 덕분에, DGM은 성능이 크게 향상되었습니다. SWE-bench에서는 20%에서 50%로 상승했고, Polyglot에서는 14.2%에서 30.7%로 올라갔습니다.
- DGM 시스템은 여러 기본 모델과 다른 프로그래밍 언어에서 성능 향상을 보였으며, 혼란을 감지하고 자체 대책을 개발하는 등의 안전성을 개선하고자 했습니다.
- 그러나 자기 코드 수정은 예측할 수 없는 행동을 유발할 위험이 있으며, Sakana AI는 이 위험을 관리하기 위해 샌드박싱과 엄격한 수정 한도 등을 사용합니다.
- DGM을 운영하는데 드는 비용은 상당하며, 운영에 필요한 기간과 높은 API 비용 때문에 현재는 한정된 활용성을 보입니다.
- Sakana AI는 DGM을 더 일반적이고 자기 개선이 가능한 AI의 청사진으로 발전시키길 희망하며, 해당 코드를 GitHub에 공개했습니다.
- Sakana AI는 인간의 뇌가 정보를 처리하는 방식을 따라 모델이 불연속 시간 간격으로 "생각"하는 별도의 실험도 진행했습니다.
4the-decoder.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.