한 줄 요약
AI 에이전트는 사용자의 질문에 답하는 수준을 넘어, 목표를 이해하고 계획을 세우며 도구를 사용해 실제 과업을 수행하는 능동적 AI 시스템이다.1
핵심 개념
AI 기술의 중심은 점점 "무엇을 아는가"에서 "무엇을 해낼 수 있는가"로 이동하고 있다. 기존 AI 챗봇이 지식 전달과 답변 생성에 강했다면, AI 에이전트는 사용자가 준 목표를 달성하기 위해 여러 단계를 스스로 구성하고 실행한다.
AI 에이전트를 이해할 때 중요한 키워드는 자율성, 목표 지향성, 환경 상호작용이다. 자율성은 매번 사람이 세부 지시를 내리지 않아도 다음 행동을 판단하는 능력이다. 목표 지향성은 단순 대화가 아니라 특정 결과를 향해 움직인다는 뜻이다. 환경 상호작용은 검색, 코드 실행, 데이터베이스 조회, 외부 API 호출처럼 시스템 바깥의 도구와 연결되어 행동한다는 의미다.
즉, AI 에이전트는 "답변하는 AI"라기보다 "일을 처리하는 AI"에 가깝다.
챗봇과 AI 에이전트의 차이
챗봇은 기본적으로 사용자의 입력에 반응한다. 질문을 받으면 답을 생성하고, 요청을 받으면 문장을 만들어 준다. 흐름의 중심은 사용자에게 있으며, 챗봇은 대체로 수동적인 역할을 한다.
반면 AI 에이전트는 목표를 받으면 그 목표를 이루기 위한 하위 작업을 나눈다. 필요한 정보를 찾고, 어떤 도구를 쓸지 고르며, 실행 결과를 바탕으로 다음 단계를 조정한다. 예를 들어 챗봇이 "회의록 양식을 알려주는 역할"이라면, 에이전트는 "회의 내용을 정리하고, 액션 아이템을 뽑고, 담당자에게 전달할 준비까지 하는 역할"에 더 가깝다.
핵심 차이는 답변 생성과 과업 수행이다. 챗봇은 대화의 품질이 중요하고, 에이전트는 목표 달성 과정과 결과가 중요하다.
AI 에이전트의 4대 구성 요소
LLM
LLM은 에이전트의 사고와 언어 이해를 담당하는 핵심 엔진이다. 사용자의 목표를 해석하고, 현재 상황을 요약하며, 다음 행동을 추론하는 기반이 된다.
다만 LLM만 있다고 에이전트가 되는 것은 아니다. LLM은 판단과 생성 능력을 제공하지만, 실제 과업을 끝내려면 계획, 기억, 도구 사용 능력이 함께 필요하다. 에이전트에서 LLM은 "두뇌"에 가깝지만, 두뇌만으로는 일을 완성할 수 없다.
계획
계획은 큰 목표를 작은 단계로 나누는 능력이다. 사용자가 "시장 조사 보고서를 만들어 줘"라고 요청했다면, 에이전트는 자료 수집, 핵심 정보 추출, 비교 분석, 보고서 작성 같은 하위 작업을 구성해야 한다.
계획 능력이 중요한 이유는 실제 업무가 한 번의 답변으로 끝나지 않기 때문이다. 에이전트는 중간 결과를 확인하고, 필요하면 계획을 수정하며, 목표에 가까워지는 방향으로 실행을 이어간다.
기억
기억은 에이전트가 대화와 작업 맥락을 유지하도록 돕는다. 기억은 크게 단기 컨텍스트와 장기 기억으로 나눠 이해할 수 있다.
단기 컨텍스트는 현재 대화나 현재 작업 안에서 유지되는 정보다. 방금 사용자가 말한 조건, 현재까지의 실행 결과, 지금 처리 중인 단계 등이 여기에 해당한다.
장기 기억은 시간이 지나도 다시 활용할 수 있는 정보다. 보통 벡터 DB 같은 저장소를 활용해 이전 대화, 문서, 사용자 선호, 업무 지식 등을 검색 가능한 형태로 보관한다. 장기 기억이 있으면 에이전트는 매번 처음부터 시작하지 않고, 축적된 맥락을 바탕으로 더 일관된 작업을 수행할 수 있다.
도구 사용
도구 사용은 에이전트가 실제 세계와 연결되는 지점이다. LLM이 답을 생성하는 것에 그치지 않고, 검색 도구, 계산기, 코드 실행기, 데이터베이스, 업무 시스템, 외부 API 등을 호출해 결과를 만들어 낸다.
이 요소가 챗봇과 에이전트를 가르는 중요한 기준이 된다. 에이전트는 필요한 도구를 선택하고 실행한 뒤, 그 결과를 다시 해석해 다음 행동으로 연결한다. 따라서 도구 사용은 에이전트를 "말하는 시스템"에서 "행동하는 시스템"으로 바꿔 준다.
주요 프레임워크 비교
시맨틱 커널
시맨틱 커널은 기업 환경에서 안정적으로 AI 기능을 연결하고 운영하는 데 강점이 있는 프레임워크로 소개된다. 업무 시스템과의 통합, 관리 가능한 구조, 실무 적용을 중요하게 볼 때 적합하다.
단일 기능을 빠르게 실험하기보다는, 조직 안에서 유지보수 가능한 방식으로 AI 에이전트 기능을 붙이고 싶을 때 고려할 만하다.
오토젠
오토젠은 여러 에이전트가 함께 대화하고 협력하는 구조를 실험하기에 적합하다. 다중 에이전트 연구, 프로토타입, 복잡한 역할 분담 시나리오를 다룰 때 강점이 있다.
예를 들어 한 에이전트는 기획자 역할을 하고, 다른 에이전트는 코더 역할을 하며, 또 다른 에이전트는 검토자 역할을 하는 식의 구성이 가능하다. 장기적으로 여러 에이전트를 조율하는 오케스트레이터 개념을 이해하는 데도 연결된다.
에저 AI 에이전트 서비스
에저 AI 에이전트 서비스는 배포와 관리 편의성에 강점이 있는 플랫폼으로 정리할 수 있다. 에이전트를 실제 서비스 환경에서 운영하려면 인증, 도구 연결, 실행 관리, 배포 방식 등을 함께 고려해야 하는데, 이런 부분을 플랫폼 차원에서 다루는 접근이다.
실습에서는 에저 파운드리, thread/message 개념, createAndProcessRun, 키리스 인증, 도구 연결 등이 다뤄진다. 단순히 로컬에서 예제를 돌리는 수준을 넘어, 실제 서비스에 가까운 형태로 에이전트를 구성하는 흐름을 익히는 데 초점이 있다.
실습 로드맵
처음에는 단일 에이전트부터 이해하는 것이 좋다. 하나의 LLM이 사용자의 목표를 받고, 간단한 계획을 세우고, 제한된 도구를 사용하는 구조를 먼저 만들어 본다.
그다음 thread와 message 개념을 익힌다. thread는 대화와 작업의 흐름을 담는 단위로 이해할 수 있고, message는 그 안에서 오가는 개별 입력과 출력으로 볼 수 있다. 이 구조를 이해하면 에이전트가 어떤 맥락 속에서 실행되는지 파악하기 쉬워진다.
이후 createAndProcessRun 같은 실행 흐름을 통해, 에이전트가 요청을 받고 처리하는 과정을 실습한다. 여기서 중요한 것은 단순 응답이 아니라, 실행 단위가 어떻게 생성되고 처리되는지 보는 것이다.
다음 단계에서는 키리스 인증과 도구 연결을 다룬다. 실제 업무 환경에서는 보안과 권한 관리가 중요하므로, 인증 방식과 외부 도구 연결은 에이전트를 서비스로 확장할 때 반드시 이해해야 할 부분이다.
마지막으로 여러 에이전트를 함께 운영하는 구조로 확장한다. 이때 핵심은 개별 에이전트의 능력보다, 누가 어떤 일을 맡고 어떤 순서로 협력할지 정하는 오케스트레이션이다. 장기적으로는 오케스트레이터 역할이 에이전트 시스템의 품질을 좌우하게 된다.
기억할 포인트
AI 에이전트는 챗봇의 확장판이라기보다, 목표 달성을 위해 행동하는 시스템에 가깝다.
에이전트의 핵심은 자율성, 목표 지향성, 환경 상호작용이다. 이 세 가지가 약하면 단순 챗봇에 머물 가능성이 크다.
4대 구성 요소는 LLM, 계획, 기억, 도구 사용이다. LLM은 필요조건이지만 충분조건은 아니다.
기억은 현재 작업을 유지하는 단기 컨텍스트와, 과거 정보를 다시 활용하는 장기 벡터 DB 관점으로 나눠 보면 이해하기 쉽다.
프레임워크는 목적에 따라 선택해야 한다. 기업용 안정성과 통합은 시맨틱 커널, 다중 에이전트 실험은 오토젠, 배포와 관리 편의성은 에저 AI 에이전트 서비스가 강점이다.
처음부터 복잡한 다중 에이전트 시스템을 만들기보다, 단일 에이전트와 도구 연결을 먼저 익힌 뒤 점진적으로 확장하는 편이 좋다.
참고
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.