생성형 AI에서 에이전트형 AI로

AI의 중심이 결과물에서 실행으로 이동한다

생성형 AI는 프롬프트에 반응해 글, 이미지, 코드, 요약문 같은 콘텐츠를 만든다. 사용자가 요청하면 결과물을 내놓고, 다시 사용자의 다음 지시를 기다린다. 이 능력만으로도 문서 작성, 마케팅 카피, 회의록 정리, 코드 초안 작성의 속도는 크게 빨라졌다.

하지만 기업의 일은 콘텐츠 생성에서 끝나지 않는다. 고객 문의 하나를 처리하려면 고객 정보를 확인하고, 주문 상태를 조회하고, 환불 기준을 판단하고, 답변을 보내고, 처리 내역을 시스템에 남겨야 한다. 이처럼 실제 업무는 여러 단계의 판단과 실행으로 이어진다.

에이전트형 AI는 바로 이 지점에서 등장한다. IBM은 생성형 AI를 사용자 입력에 반응해 콘텐츠를 만드는 AI로, 에이전트형 AI를 제한된 감독 아래 목표를 추구하며 의사결정하고 행동하는 시스템으로 구분한다¹. 앞으로의 경쟁은 "무엇을 생성하느냐"보다 "어떤 일을 끝까지 처리하느냐"에서 갈린다.

AI 생성 이미지

에이전트는 목표를 받고 과정을 설계한다

에이전트형 AI는 단순히 답을 말하는 도구가 아니다. 목표를 이해하고, 필요한 단계를 나누고, 도구를 선택하고, 실행 결과를 확인한다. 예를 들어 "다음 주 고객 미팅을 준비해줘"라는 요청을 받으면 일정 후보를 찾고, 참석자를 확인하고, 관련 고객 이력을 조회하고, 회의 안건을 만들고, 필요한 자료를 정리할 수 있다.

핵심은 업무 흐름이다. 맥락 파악, 의사결정, 실행, 결과 확인이 연결되어야 한다. 고객 응대, 자료 조사, 보고서 작성, 일정 조율, 청구 오류 확인 같은 업무는 모두 이 구조를 가진다. IBM은 기업용 AI 에이전트가 대형 언어모델, 머신러닝, 외부 도구와 API를 활용해 여러 시스템을 오가며 복잡한 프로세스를 끝까지 조율할 수 있다고 설명한다².

규칙 기반 자동화와 다른 점

기존의 워크플로 자동화나 RPA는 정해진 절차를 빠르게 반복하는 데 강했다. "A가 들어오면 B를 실행하고, 조건이 맞으면 C로 이동한다"는 식이다. 절차가 안정적이고 예외가 적은 업무에는 효과적이다.

반면 에이전트형 AI는 목표 중심으로 움직인다. 상황이 바뀌면 다른 정보를 찾고, 대안을 비교하고, 필요하면 사람에게 확인을 요청한다. 예를 들어 청구 금액에 오류가 있다는 고객 문의가 들어오면, 에이전트는 계정 이력, 계약 조건, 최근 결제 기록을 확인하고 오류 가능성을 판단한 뒤 고객에게 설명할 초안을 만들 수 있다. 정해진 버튼을 누르는 자동화가 아니라, 변화하는 상황을 해석하는 자동화에 가깝다.

이 차이는 기업 운영에 큰 의미가 있다. 에이전트가 CRM, ERP, 협업툴, 데이터베이스, 외부 API와 연결되면 부서별로 끊겨 있던 업무가 하나의 흐름으로 이어진다. 영업, 재무, 고객지원, 물류가 따로 움직이는 것이 아니라 하나의 목표를 중심으로 연결된다.

자율성과 통제의 경계가 필요하다

에이전트형 AI가 강력해질수록 통제 설계는 더 중요해진다. 모든 일을 AI가 자율적으로 처리하게 해서는 안 된다. 반복 조회, 초안 작성, 일정 후보 제안, 내부 문서 검색처럼 위험이 낮은 업무는 AI가 넓게 맡을 수 있다. 반대로 비용 집행, 고객 통보, 계약 변경, 민감 데이터 접근, 채용·신용·의료처럼 사람에게 큰 영향을 주는 업무는 승인 절차가 필요하다.

따라서 기업은 업무를 위험도에 따라 나눠야 한다. AI가 바로 실행해도 되는 구간, 사람이 검토해야 하는 구간, 반드시 책임자의 승인이 필요한 구간을 분리해야 한다. 이 기준이 없으면 생산성은 올라가도 오류, 권한 남용, 고객 피해가 함께 커진다.

다중 에이전트의 가능성과 위험

앞으로는 하나의 AI가 모든 일을 처리하기보다 여러 에이전트가 역할을 나눌 가능성이 크다. 리서치 에이전트는 자료를 찾고, 분석 에이전트는 데이터를 해석하며, 실행 에이전트는 이메일 발송이나 시스템 입력을 맡는다. Deloitte는 다중 에이전트 시스템이 맥락 이해, 자율적 의사결정, 협업 실행을 통해 기존 자동화를 넘어 프로세스 재설계로 이어질 수 있다고 본다³.

그러나 에이전트가 많아질수록 오류가 전파될 위험도 커진다. 한 에이전트가 잘못된 정보를 넘기면 다음 에이전트가 그 오류를 기반으로 더 큰 결정을 내릴 수 있다. 그래서 로그, 모니터링, 권한 관리, 설명 가능성, 휴먼 인 더 루프가 필수다. 휴먼 인 더 루프는 중요한 단계에서 사람이 검토하고 개입하는 구조를 뜻한다.

에이전트형 AI의 가치는 사람을 빼는 데 있지 않다. 반복 실행은 AI가 맡고, 사람은 목표 설정, 예외 판단, 윤리적 책임, 고객 신뢰 관리에 집중하게 만드는 데 있다. AI가 일을 끝까지 처리하는 시대일수록, 기업은 어떤 일을 맡길지와 어디서 멈추게 할지를 더 분명히 정해야 한다.

참고

¹IBM, Agentic AI vs. generative AI

²IBM, Enterprise AI agents: Beyond productivity

³Deloitte, AI agents for business: Agentic AI insights and trends