챗봇과 에이전트는 다르다
많은 기업이 처음 AI를 도입할 때 챗봇을 떠올린다. 직원이 질문을 입력하면 AI가 답한다. 고객이 문의하면 정해진 답변을 안내한다. 이런 방식은 분명 유용하다. 사내 규정 검색, 고객 문의 응대, 문서 요약처럼 질문과 답변의 구조가 명확한 업무에서는 빠른 효과를 낸다.
하지만 챗봇은 대체로 대화형 인터페이스에 가깝다. 사용자가 묻고, AI가 답한다. 다음 행동은 사람이 결정한다. 반면 AI 에이전트는 목표를 받고, 필요한 단계를 나누고, 도구를 사용하며, 결과를 확인하고, 다음 작업을 이어간다. IBM은 에이전틱 워크플로우를 AI 에이전트가 추론, 계획, 도구 사용, 의사결정, 작업 조정을 통해 복잡한 다단계 업무를 반복적으로 수행하는 방식으로 설명한다1.
차이는 작아 보이지만 업무 설계에서는 매우 크다.
챗봇에게는 이렇게 말한다.
"이 고객 문의에 어떻게 답하면 좋을까?"
에이전트에게는 이렇게 맡긴다.
"이 고객 문의를 확인하고, 고객 정보를 찾아보고, 최근 주문 내역과 기존 상담 이력을 검토한 뒤, 답변 초안을 만들고, 필요하면 보상 정책에 맞는 다음 조치를 추천해줘."
첫 번째는 답변이다. 두 번째는 업무 흐름이다. AX에서 AI 에이전트가 중요한 이유가 여기에 있다. 에이전트는 AI를 업무 바깥의 보조 도구에서 업무 안의 실행 주체로 이동시킨다.
AI 생성 이미지
에이전트가 먼저 성과를 내는 영역
AI 에이전트라고 해서 곧바로 모든 일을 자율적으로 처리할 수 있는 것은 아니다. 오히려 초기 성과는 완전 자율화보다 업무 증강과 부분 자동화에서 나온다. 즉 사람이 하던 일을 전부 넘기는 것이 아니라, 사람이 반복적으로 하던 준비, 조회, 정리, 입력, 알림, 초안 작성을 에이전트가 맡는 방식이다.
현실적인 적용 범위는 다음과 같다.
고객 정보를 검색하고 상담 화면에 요약해 보여준다.
CRM의 빈 필드를 기존 데이터로 자동 채운다.
영업 미팅 후 핵심 내용을 정리하고 후속 메일 초안을 만든다.
ERP 데이터를 자연어 질문으로 조회하고 표나 차트로 보여준다.
고객 상담 내용을 요약하고 종료 노트를 생성한다.
계약서나 제안서의 초안을 만들고 누락 항목을 표시한다.
승인 대기 업무, 미응답 고객, 지연된 티켓을 찾아 담당자에게 알린다.
거래명세서와 발주서를 대조해 불일치 후보를 표시한다.
Microsoft Dynamics 365의 Copilot과 에이전트 사례에서도 이런 흐름을 확인할 수 있다. CRM 필드 자동 입력, 자연어 기반 데이터 검색과 시각화, 상담 요약, 이메일 초안 작성, 해결 노트 생성, 케이스 생명주기 자동화, ERP 데이터 질의, 미지급 송장 검토 같은 기능은 모두 기업 시스템에 연결된 반복 업무를 보조하거나 일부 자동화하는 방향으로 설계되어 있다2.
여기서 중요한 점은 에이전트가 독립적으로 모든 결정을 내리지 않는다는 것이다. 예를 들어 고객지원 에이전트는 상담 내용을 요약하고 답변 초안을 만들 수 있다. 그러나 보상 여부, 법적 책임이 있는 안내, 고객 등급 변경, 환불 승인처럼 고객에게 직접 영향을 주는 판단은 사람이 확인해야 한다.
영업 에이전트도 마찬가지다. 고객사의 최근 문의, 미팅 이력, 제안서 버전, 경쟁사 언급을 모아 브리핑할 수 있다. 하지만 가격 조건을 확정하거나 계약상 예외 조항을 승인해서는 안 된다. 에이전트는 판단을 준비하고 실행을 돕는다. 책임이 큰 결정은 사람이 맡는다.
업무 에이전트는 프롬프트가 아니라 프로세스다
많은 조직이 에이전트를 "더 똑똑한 프롬프트"로 오해한다. 그러나 업무 에이전트는 프롬프트 하나로 완성되지 않는다. 실제 업무에서 작동하려면 기존 시스템과 연결된 프로세스로 설계해야 한다.
업무 에이전트를 설계할 때는 최소한 다음 요소가 필요하다.
첫째, 목표.
에이전트가 달성해야 할 업무 목적을 분명히 해야 한다. "고객 응대 지원"은 너무 넓다. "접수된 반품 문의를 분류하고, 주문 이력과 반품 정책을 확인해 상담원에게 답변 초안을 제공한다"처럼 구체적이어야 한다.
둘째, 입력 데이터.
에이전트가 무엇을 보고 일할지 정해야 한다. 고객 문의 내용, CRM 기록, 주문 데이터, 계약 조건, 사내 정책 문서, 이메일, 회의록 등이 여기에 해당한다. 입력 데이터가 불명확하면 에이전트는 그럴듯하지만 틀린 결과를 만들 가능성이 높다.
셋째, 연결 도구.
에이전트는 단순히 답변만 생성하지 않는다. CRM에서 고객 정보를 조회하고, ERP에서 주문 상태를 확인하고, 메일 시스템에서 초안을 작성하고, 문서 저장소에서 최신 정책을 찾아야 한다. 이때 API나 커넥터가 필요하다. AX에서 에이전트는 AI 모델 하나가 아니라 모델, 데이터, 업무 시스템, 권한 체계가 연결된 구조다.
넷째, 실행 절차.
에이전트가 어떤 순서로 일할지 정해야 한다. 예를 들어 고객 문의 처리 에이전트라면 "문의 유형 분류 → 고객 정보 조회 → 관련 정책 검색 → 답변 초안 작성 → 상담원 검토 요청 → 상담 결과 기록" 같은 흐름이 필요하다.
다섯째, 권한 범위.
조회만 가능한지, 입력도 가능한지, 고객에게 메시지를 보낼 수 있는지, 금액 변경이나 승인 요청까지 할 수 있는지 정해야 한다. 초기에는 조회와 초안 작성 중심으로 시작하는 것이 안전하다.
여섯째, 예외 처리.
에이전트가 처리하지 못하는 경우를 미리 정해야 한다. 정보가 부족한 경우, 정책이 충돌하는 경우, 고객 불만이 심각한 경우, 법무 검토가 필요한 경우에는 사람에게 넘겨야 한다.
일곱째, 로그 기록.
에이전트가 어떤 데이터를 조회했고, 어떤 근거로 결과를 만들었고, 누가 검토했으며, 최종적으로 어떤 조치가 실행되었는지 남겨야 한다. 로그는 감시가 아니라 책임과 개선을 위한 장치다.
여덟째, 인간 검토 단계.
업무 영향도가 높을수록 사람의 검토가 필수다. 에이전트가 만든 결과물을 사람이 승인한 뒤 실행할지, 특정 조건에서는 자동 실행할지, 어떤 경우에는 반드시 중단할지를 정해야 한다.
이 요소가 없으면 에이전트는 업무 자동화가 아니라 위험한 실험이 된다. 반대로 이 요소가 갖춰지면 에이전트는 반복 업무의 안정적인 실행 단위가 된다.
도구를 사용하는 순간, 거버넌스가 중요해진다
챗봇이 답변만 할 때와 에이전트가 도구를 사용할 때의 리스크는 다르다. 챗봇이 틀린 답변을 하면 사람이 고칠 수 있다. 그러나 에이전트가 잘못된 고객에게 메일을 보내거나, 잘못된 CRM 정보를 입력하거나, 승인되지 않은 데이터를 조회하면 실제 업무 사고가 된다.
그래서 에이전트에는 접근 통제가 필요하다. 모든 에이전트가 모든 데이터에 접근해서는 안 된다. 영업 지원 에이전트는 영업 관련 고객 정보에 접근할 수 있지만, 인사 평가나 재무 기밀에는 접근할 수 없어야 한다. 고객지원 에이전트는 상담 이력과 주문 상태는 볼 수 있어도, 민감한 결제 정보 전체를 볼 필요는 없다.
역할별 권한도 중요하다. 같은 에이전트라도 일반 상담원, 팀장, 관리자에게 제공하는 기능이 달라야 한다. 일반 사용자는 초안 생성과 조회만 가능하게 하고, 관리자는 정책 변경 요청이나 대량 처리 승인 권한을 가질 수 있다.
실행 로그는 반드시 남겨야 한다. 에이전트가 어떤 문서를 근거로 답했는지, 어떤 시스템에 접근했는지, 어떤 값을 변경했는지, 사람이 어떤 부분을 수정했는지 기록해야 한다. 특히 고객 데이터, 계약, 재무, 법무, 인사처럼 리스크가 큰 업무에서는 감사 가능성이 운영 원칙이 되어야 한다.
또 하나 필요한 것은 결과 검증이다. 에이전트가 만든 요약, 추천, 입력값, 문서 초안은 업무 기준에 맞는지 확인되어야 한다. 단순한 맞춤법 검사가 아니라 사실 확인, 정책 적합성, 고객 영향, 보안 위반 여부를 봐야 한다.
에이전트의 권한은 단계적으로 높이는 것이 좋다.
정보 조회와 요약
초안 작성과 추천
사람이 승인한 뒤 시스템 입력
제한된 조건에서 자동 실행
예외 상황을 제외한 반복 업무 자율 처리
대부분의 기업은 1~3단계에서 먼저 성과를 낼 수 있다. 4~5단계는 데이터 품질, 권한 관리, 로그, 품질 평가, 사고 대응 체계가 갖춰진 뒤 확대해야 한다.
에이전트 시대의 업무 분장
AI 에이전트가 들어오면 업무 분장은 달라진다. 기존에는 사람이 정보를 찾고, 정리하고, 판단하고, 입력하고, 보고했다. 앞으로는 이 흐름이 나뉜다.
에이전트는 정보를 수집한다. 관련 문서를 찾고, 고객 이력을 모으고, 데이터를 조회한다. 반복되는 입력도 맡는다. 회의록을 정리하고, CRM을 업데이트하고, 후속 메일을 작성한다. 정해진 규칙 안에서 알림을 보내고, 미처리 업무를 추적한다.
사람은 목표를 정한다. 무엇을 해결해야 하는지, 어떤 고객 경험을 만들어야 하는지, 어떤 기준으로 판단해야 하는지 정한다. 맥락을 본다. 고객이 왜 불만을 갖는지, 이번 계약이 왜 중요한지, 숫자 뒤에 어떤 시장 변화가 있는지 해석한다. 예외를 처리한다. 규칙에 없는 상황, 이해관계가 충돌하는 상황, 책임이 큰 결정을 맡는다. 그리고 최종 책임을 진다.
따라서 에이전트 시대의 핵심 역량은 "AI에게 일을 시키는 능력"이 아니다. 업무를 쪼개고, 기준을 정하고, 권한을 설계하고, 결과를 검토하는 능력이다. 직원은 단순 수행자에서 업무 설계자와 검토자로 이동한다. 관리자는 업무 배분자에서 사람과 에이전트의 협업 흐름을 운영하는 조정자가 된다.
이 변화는 조직도에도 영향을 준다. 앞으로 팀은 사람만으로 구성되지 않는다. 영업팀에는 리드 조사 에이전트, 제안서 초안 에이전트, 미팅 요약 에이전트가 함께 일할 수 있다. 고객지원팀에는 문의 분류 에이전트, 답변 추천 에이전트, 상담 품질 평가 에이전트가 배치될 수 있다. 재무팀에는 송장 검토 에이전트, 계정 조정 에이전트, 지출 이상 탐지 에이전트가 들어올 수 있다.
하지만 이것은 사람을 없애는 그림이 아니다. 반복 실행은 에이전트가 맡고, 더 중요한 판단은 사람이 맡는 구조다. AX의 목표는 무인 조직이 아니라 더 빠르고 정확하게 일하는 조직이다.
작은 자동화에서 디지털 동료로
AI 에이전트는 AX 전환에서 업무 설계의 다음 단계다. 지금까지 AI가 문서 작성, 검색, 요약을 도왔다면, 에이전트는 그 기능들을 하나의 업무 흐름으로 묶는다. 질문에 답하는 AI에서, 목표를 향해 여러 작업을 수행하는 AI로 이동하는 것이다.
그러나 출발점은 거창할 필요가 없다. 처음부터 완전 자율 에이전트를 만들려 하지 말아야 한다. 고객 정보 조회, 상담 요약, CRM 입력 보조, 보고서 초안, 업무 알림처럼 작고 반복적이며 사람이 검토할 수 있는 업무부터 시작해야 한다. 그 과정에서 데이터 연결, 권한, 로그, 승인, 성과 지표를 함께 설계해야 한다.
에이전트는 회사의 디지털 동료가 될 수 있다. 다만 좋은 동료가 되려면 역할이 분명해야 한다. 무엇을 할 수 있고, 무엇을 하면 안 되는지 알아야 한다. 어떤 정보를 볼 수 있고, 어떤 결정은 사람에게 넘겨야 하는지 정해져야 한다. 성과도 측정되어야 하고, 실수했을 때 원인을 추적할 수 있어야 한다.
AI 에이전트의 가치는 기술의 자율성에만 있지 않다. 진짜 가치는 사람이 더 중요한 일에 집중하도록 업무를 재배치하는 데 있다. 사람이 목표와 책임을 맡고, 에이전트가 반복과 실행을 맡는 구조. 이것이 AX 시대의 업무 자동화가 향해야 할 방향이다.
참고
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.