멀티 에이전트 시스템의 병목은 종종 모델 자체보다 에이전트 간 대기 시간에서 생긴다. 앞선 에이전트가 답변 전체를 완성할 때까지 다음 에이전트가 기다려야 하기 때문이다.
StreamMA는 이 대기 구조를 바꾸려는 접근이다. 정식 논문 제목은 "Streaming Communication in Multi-Agent Reasoning"이며, 핵심은 완성된 응답 전체가 아니라 생성 중인 추론 단계를 순차적으로 다음 에이전트에 전달하는 것이다.1
StreamMA는 무엇을 바꾸는가
기존 멀티 에이전트 흐름은 대체로 "생성 후 전달" 방식이다. A가 긴 풀이를 끝내면 B가 받고, B가 다시 결과를 만든 뒤 C가 이어받는다. 에이전트가 많아지거나 추론이 길어질수록 전체 지연은 커진다.
StreamMA는 각 추론 단계를 통신 단위로 본다. 앞선 에이전트가 모든 답을 끝내기 전에 일부 추론을 내보내면, 하류 에이전트는 그 조각을 바탕으로 먼저 작업을 시작할 수 있다. 단순히 화면에 토큰을 빨리 보여주는 스트리밍 UI가 아니라, 에이전트 간 추론 작업을 겹치게 만드는 실행 방식에 가깝다.
왜 정확도에도 영향을 줄 수 있는가
StreamMA의 흥미로운 지점은 속도만이 아니다. 논문은 다단계 추론에서 초기 단계가 후기 단계보다 더 신뢰할 수 있다는 관찰을 활용한다.1
전체 답변을 한 번에 넘기면 비교적 안정적인 초반 추론과 뒤쪽의 불안정한 추론이 함께 전달된다. 반면 추론 단계를 순차적으로 전달하면 하류 에이전트가 초기 정보를 먼저 검토하고 활용할 수 있다. 이 구조는 뒤늦게 생긴 오류가 다음 에이전트의 판단 전체를 흔드는 상황을 줄이는 데 도움이 될 수 있다.
보고된 실험 결과도 이 방향을 뒷받침한다. 논문은 수학·과학·코드 8개 벤치마크에서 Claude Opus 4.6 기준 평균 7.3%포인트 성능 향상을 보고했다.1
적용 전에 확인할 기준
StreamMA는 공식 GitHub 저장소에서 구현체를 제공한다.2 저장소에 제시된 실행 예시는 pip install openai로 의존성을 설치한 뒤 python StreamMA.py를 실행하는 방식이다.2
실제로 적용할 때는 먼저 작업의 성격을 봐야 한다. StreamMA가 유리하려면 문제가 단계적으로 나뉘고, 앞단의 추론이 뒤따르는 에이전트에게 의미 있는 단서가 되어야 한다. 반대로 초반 추론이 자주 틀리는 작업이라면 잘못된 방향이 더 빨리 퍼질 수도 있다.
따라서 판단 기준은 단순히 "에이전트를 몇 개 붙일 것인가"가 아니다. 더 중요한 질문은 "어떤 추론 조각을, 어떤 순서로, 어느 에이전트에 흘릴 것인가"이다. StreamMA는 멀티 에이전트 설계를 에이전트 수의 문제가 아니라 추론 흐름의 문제로 다시 보게 만든다.
결론적으로 StreamMA의 의미는 명확하다. 멀티 에이전트 최적화의 초점이 "더 많은 에이전트"에서 "더 나은 추론 전달 방식"으로 이동하고 있다.
참고
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.