Decoding AI’s Open-Source Course가 보여주는 코딩 에이전트의 핵심
요약: Decoding AI’s Open-Source Course는 Python으로 코딩 에이전트를 직접 구현하며, 성능을 좌우하는 요소가 모델만이 아니라 에이전트 루프와 하네스, 실행 방식이라는 점을 보여준다. 독자는 8개 레슨을 통해 에이전트의 구조부터 대화형·원격 실행, LLM 공급자 선택까지 체계적으로 이해할 수 있다.
LangChain의 Terminal-Bench 실험은 하네스의 중요성을 단적으로 보여준다. 같은 모델을 유지하고 하네스만 변경했는데도 코딩 에이전트의 순위가 약 30위에서 상위 5위권으로 상승했다. 이 사례는 2026년 8월 22일 MarkTechPost에 소개됐다.
여기서 하네스는 모델이 실제 작업을 수행하도록 도구 호출, 실행 환경, 결과 반환 등을 연결하는 시스템이다. 따라서 코딩 에이전트를 평가할 때는 모델 이름뿐 아니라 모델을 어떤 구조로 작동시키는지도 함께 살펴봐야 한다.
약 20줄의 정의에서 시작하는 에이전트
Decoding AI’s Open-Source Course는 Python으로 코딩 에이전트 ‘Decode’를 처음부터 구현하는 8개 레슨으로 구성된다. Decode의 핵심 에이전트 정의는 모델·도구·출력 형식을 조합한 약 20줄의 코드다.1
하지만 실제 에이전트의 가치는 이 짧은 정의를 둘러싼 실행 구조에서 나온다. 기본이 되는 ReAct 구조는 다음 세 단계를 반복한다.2
추론: 모델이 현재 상황과 다음 작업을 판단한다.
행동: 필요한 도구를 호출한다.
관찰: 도구 실행 결과를 받아 다음 판단에 반영한다.
에이전트 루프에서는 모델 요청, 도구 호출, 실행 결과 반환이 이어지며, 모델이 더 이상 도구를 호출하지 않을 때 종료된다.2 실제 코딩 작업의 수명주기는 계획, 탐색, 코드 적용, 실행, 결과 관찰, 다음 작업의 순서로 반복된다.
이 구조를 이해하면 코딩 에이전트를 단순한 코드 생성기가 아니라, 결과를 확인하고 다음 행동을 결정하는 반복 실행 시스템으로 볼 수 있다.
하네스를 분리하면 실행 방식이 확장된다
Decode의 헤드리스 하네스는 자체 사용자 인터페이스 없이 에이전트 실행에 필요한 공통 기능을 제공한다.1 이 공통 모듈은 두 가지 방식으로 활용된다.
대화형 모드: 하나의 실시간 세션에 연결된 터미널 사용자 인터페이스를 사용한다.
원격 모드: Kitaru가 서버에서 여러 헤드리스 하네스를 병렬로 실행한다.
인터페이스와 실행 핵심을 분리하면 동일한 에이전트 구조를 로컬의 대화형 작업과 서버 기반 자동화에 재사용할 수 있다. 이는 에이전트를 실험용 스크립트에서 실제 운영 가능한 시스템으로 확장할 때 중요한 설계 기준이다.
LLM 공급자 선택도 시스템 설계의 일부다
Decode는 Modal, OpenRouter, Gemini의 세 가지 LLM 공급자 방식을 지원한다.2 이 선택은 사용할 모델뿐 아니라 운영과 비용 구조에도 영향을 준다.
Gemini는 독점 모델 API를 제공하고, OpenRouter는 호스팅된 여러 모델을 하나의 API로 이용하게 한다. Modal은 오픈 웨이트 모델을 직접 서비스하며 토큰이 아니라 GPU 사용 시간을 기준으로 비용을 부과한다.
따라서 공급자를 선택할 때는 다음을 함께 고려해야 한다.
요청량과 병렬 처리 규모
설정과 운영의 편의성
작업 중 사람의 승인을 기다리는 시간
토큰 과금과 GPU 사용 시간 과금의 차이
대화형 실행과 원격 자동화 중 필요한 방식
요청량이 적고 설정 편의성이 중요하다면 API 방식이 적합할 수 있다. 반면 대량의 병렬 작업처럼 연산 수요가 특정 시간에 집중된다면 서버리스 GPU 방식이 경쟁력을 가질 수 있다. 사람이 승인할 때까지 실행이 오래 멈추는 작업이라면 유휴 시간에 따른 비용도 확인해야 한다.2
모델보다 시스템을 함께 평가하라
Decoding AI’s Open-Source Course에서 얻을 수 있는 핵심 교훈은 “어떤 모델이 최고인가”라는 질문만으로는 충분하지 않다는 것이다. 같은 모델도 하네스와 실행 루프에 따라 성능이 크게 달라질 수 있기 때문이다.
코딩 에이전트를 설계하거나 평가할 때는 모델과 함께 다음 요소를 확인해야 한다.
추론·행동·관찰을 연결하는 에이전트 루프
도구 호출과 실행 결과를 관리하는 하네스
대화형 또는 원격 병렬 실행 방식
LLM 공급자에 따른 운영 및 비용 구조
결국 코딩 에이전트가 실제 제품으로 작동하려면 모델, 도구, 하네스, 배포 방식과 비용을 하나의 시스템으로 설계해야 한다.
참고
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.