LLM은 답을 만든다. 하지만 실제 업무 앱은 답만으로 동작하지 않는다. API를 호출하고, 실패를 복구하고, 정책을 지키며, 여러 단계를 끝까지 실행해야 한다.
이 간극을 메우는 것이 에이전트 하네스다. 하네스는 모델의 응답을 도구 사용, 권한, 메모리, 정책 집행으로 연결하는 실행 런타임이다.1 CUGA는 IBM이 공개한 오픈소스 에이전트 하네스로, 엔터프라이즈 환경에서 에이전트 앱을 구성하고 실행하는 데 초점을 둔다.2
CUGA가 다루는 문제: 에이전트의 실행 구조
에이전트를 직접 만들면 모델 호출보다 주변 작업이 더 커진다. 도구를 등록하고, OpenAPI나 MCP 서버를 연결하고, LangChain 함수 기반 도구를 호출하고, 승인 절차와 오류 복구까지 설계해야 한다.
CUGA는 이 반복적인 “에이전트 배관 작업”을 하네스 안으로 끌어들인다. OpenAPI, MCP, LangChain 함수 기반 도구를 지원하며, reasoning mode도 Fast, Balanced, Accurate 세 가지 설정으로 제공한다.3 즉, 개발자는 매번 실행 구조를 새로 만드는 대신 도구 연결과 정책 설정을 중심으로 에이전트를 구성할 수 있다.
여기서 중요한 점은 CUGA가 단순한 프롬프트 보조 도구가 아니라는 것이다. 프롬프트는 모델에게 방향을 제시하지만, 하네스는 에이전트가 무엇을 실행할 수 있는지, 어떤 조건에서 멈춰야 하는지, 실패했을 때 어떻게 대응해야 하는지를 런타임 수준에서 다룬다.
예제 중심 구조가 주는 실용성
CUGA를 평가할 때 눈여겨볼 부분은 cuga-apps다. 여기에는 약 24개의 작동 예제가 포함되어 있으며, 각 예제는 단일 FastAPI 파일로 구성된다.4 설치도 pip install cuga로 시작할 수 있다.4
이 구조는 학습 비용을 낮춘다. 에이전트 프레임워크는 개념 설명만으로는 실제 사용 방식을 파악하기 어렵다. 반면 단일 파일 예제는 어떤 도구를 붙이고, 어떤 정책을 적용하고, 어떤 흐름으로 실행하는지 빠르게 확인하게 해준다.
공용 MCP 서버도 실험 장벽을 낮춘다. cuga-apps의 공개 MCP 서버는 IBM Code Engine에서 호스팅되며, 7개 서버와 36개 도구로 구성된다.4 따라서 사용자는 로컬에서 모든 도구 서버를 직접 세팅하지 않아도 도구 호출 기반 에이전트를 시험해볼 수 있다.
좋은 하네스의 기준은 기능 수보다 운영 가능성이다
에이전트 하네스 분야에는 100개 이상의 AI 에이전트 하네스와 오케스트레이션 프레임워크가 정리되어 있을 만큼 선택지가 많다.1 따라서 단순히 지원 기능의 개수를 비교하는 것만으로는 부족하다.
더 중요한 기준은 운영 중 실패를 어떻게 다루는가다. 프로덕션 에이전트에는 재시도 로직, 폴백, 검증 같은 기능이 필요하다.1 또한 하네스 품질은 환경, 오케스트레이션, 수명주기, 가드레일 같은 요소로 평가할 수 있다.1
이 관점에서 CUGA의 핵심 가치는 모델 선택보다 실행 통제에 있다. 도구 사용, 정책, 승인, 출력 형식 같은 제약을 하네스에 담으면 에이전트의 동작이 더 명확해지고 검토 가능해진다. 에이전트 품질을 “모델이 얼마나 똑똑한가”가 아니라 “실행이 얼마나 안전하고 복구 가능하게 설계되었는가”로 보게 만드는 것이다.
CUGA를 어떻게 적용해볼 것인가
CUGA는 거창한 아키텍처 검토보다 작은 예제로 시작하는 편이 좋다. pip install cuga로 설치한 뒤, cuga-apps의 단일 FastAPI 예제를 통해 도구 연결과 정책 설정 방식을 확인하는 것이 현실적이다.4
검토할 때는 다음 질문을 기준으로 삼을 수 있다.
어떤 도구를 연결해야 하는가?
OpenAPI, MCP, LangChain 함수 기반 도구 중 어떤 방식이 맞는가?
에이전트가 실패했을 때 재시도나 폴백이 필요한가?
사람 승인이 필요한 단계는 어디인가?
Fast, Balanced, Accurate 중 어떤 reasoning mode가 업무에 적합한가?
결론은 분명하다. 에이전트 앱을 만들 때 먼저 볼 것은 모델만이 아니다. 실제 업무에서는 도구 사용, 오류 복구, 정책 집행, 실행 흐름을 책임지는 하네스가 필요하다. CUGA는 이 구조를 빠르게 실험하고 운영 관점에서 점검해볼 수 있는 출발점이다.
1Best of Agent Harnesses and Harness Techniques
2CUGA -- Configurable Generalist Agent
4Build real agentic apps using CUGA
5Beyond LLMs: Why Scalable Enterprise AI Adoption Depends on Agent Logic
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.