챗봇과 에이전트는 무엇이 다른가

챗봇은 답변하고, 에이전트는 작업한다

챗봇과 에이전트는 겉으로 보면 비슷합니다. 둘 다 사용자의 말을 이해하고 자연어로 응답합니다. 하지만 목적이 다릅니다.

챗봇은 주로 질문에 답합니다. 사용자가 "이번 주 회의록을 요약해 줘"라고 말하면, 챗봇은 입력된 회의록을 읽고 요약문을 만들어 줍니다. 여기서 일은 대화 안에서 끝납니다.

에이전트는 목표를 받아 실제 작업을 진행합니다. 같은 요청을 받았을 때 에이전트는 회의록 파일을 찾고, 내용을 읽고, 요약하고, 할 일을 추출하고, 담당자별로 정리한 뒤, 필요하면 문서나 이메일 초안까지 만들 수 있습니다. 즉 에이전트는 답변을 생성하는 데서 멈추지 않고 도구를 사용해 상태를 바꿉니다.

핵심 차이는 이것입니다. 챗봇은 "무엇을 말할까"에 집중하고, 에이전트는 "무엇을 할까"까지 다룹니다.

에이전트를 이루는 네 가지 요소

현실적인 에이전트는 보통 네 가지 요소로 나누어 생각할 수 있습니다.

Planner는 목표를 단계로 나눕니다. "블로그 글을 만들어 줘"라는 요청을 받으면 주제 확인, 자료 정리, 목차 작성, 초안 작성, 검토 같은 순서를 만듭니다. 모든 작업에 거창한 계획이 필요한 것은 아니지만, 여러 단계가 필요한 일에는 계획이 있어야 합니다.

Executor는 계획된 단계를 실제로 실행합니다. 어떤 도구를 호출할지 결정하고, 결과를 받아 다음 단계로 넘깁니다. 실행 중 오류가 나면 재시도하거나 사용자에게 확인을 요청할 수도 있습니다.

Tool은 에이전트가 사용할 수 있는 외부 기능입니다. 검색, 계산, 파일 읽기, 이메일 작성, 데이터베이스 조회, 캘린더 등록 같은 기능이 도구가 됩니다. 에이전트가 강력해지는 이유는 모델 자체가 모든 일을 해서가 아니라, 필요한 도구를 적절히 연결하기 때문입니다.

Memory는 작업에 필요한 맥락을 저장합니다. 지금 진행 중인 단계, 이전 도구 실행 결과, 사용자의 선호, 과거 작업 기록 등이 여기에 포함됩니다. 메모리가 없으면 에이전트는 긴 작업을 안정적으로 이어가기 어렵습니다.

이 네 요소는 따로 움직이지 않습니다. Planner가 방향을 잡고, Executor가 실행하며, Tool이 실제 기능을 제공하고, Memory가 흐름을 이어 줍니다.

완전 자율 AI라는 오해

에이전트를 "사람이 시키면 알아서 모든 일을 끝내는 AI"로 이해하면 제품 설계가 위험해집니다. 실제 서비스에서는 에이전트가 마음대로 결제하고, 고객에게 메시지를 보내고, 데이터를 삭제하게 둘 수 없습니다.

모델은 그럴듯한 계획을 만들 수 있지만 항상 맞는 판단을 하지는 않습니다. 도구 설명을 잘못 이해할 수 있고, 오래된 맥락을 기준으로 행동할 수 있으며, 사용자가 의도하지 않은 작업을 실행할 수도 있습니다.

따라서 좋은 에이전트 설계는 자율성을 무조건 키우는 일이 아닙니다. 오히려 어디까지 자동화할지, 어느 순간 사람의 승인을 받을지, 실패했을 때 어떻게 멈출지를 정하는 일입니다.

현실적인 에이전트의 조건

실제 제품에서 쓸 수 있는 에이전트에는 몇 가지 조건이 필요합니다.

첫째, 범위가 제한되어야 합니다. "회사 일을 다 해 주는 에이전트"보다 "회의록에서 할 일을 추출해 업무 관리 도구에 초안으로 등록하는 에이전트"가 훨씬 만들기 쉽고 안전합니다.

둘째, 상태를 추적해야 합니다. 지금 어떤 단계까지 끝났는지, 어떤 도구를 호출했는지, 결과가 무엇이었는지 남겨야 합니다. 그래야 중간에 멈춰도 이어서 실행할 수 있습니다.

셋째, 승인 지점이 있어야 합니다. 읽기 작업은 자동으로 처리해도 되지만, 발송, 결제, 삭제, 공개 게시처럼 되돌리기 어려운 작업은 사람의 확인을 거치는 편이 안전합니다.

넷째, 복구 가능성이 있어야 합니다. 도구 호출이 실패하거나 잘못된 결과가 나왔을 때 재시도, 대체 경로, 안전한 중단이 가능해야 합니다.

에이전트는 마법이 아닙니다. 목표를 단계로 나누고, 도구를 제한적으로 사용하며, 상태와 승인을 관리하는 시스템입니다. 이 기준을 분명히 해야 다음 장에서 다룰 Tool Calling도 올바르게 이해할 수 있습니다.