에이전트 유형 5가지와 선택 기준 — 판단부터 업무 적용까지

AI 에이전트 종류를 단순 반사형·모델 기반·목표 기반·효용 기반·학습형 5유형과 자율성·구조·업무 역할·배포 방식으로 나눠 설명하고, 챗봇·RPA와의 차이, 국내 기업이 어떤 종류부터 도입할지 선택 기준을 정리했습니다.

목차 (Agenda)

AI 에이전트 종류 가이드 배너

TL;DR AI 에이전트 종류는 판단 방식 5유형에 자율성·구조·업무 역할을 더해 나눕니다. 도입은 단순한 유형부터 시작하는 것이 안전합니다.

2026년 국내 기업과 공공기관의 AI 도입 담당자를 위해, AI 에이전트 종류를 어떤 기준으로 나누고 우리 업무에는 어떤 유형을 먼저 적용해야 하는지 판단 방법을 정리했습니다.

“AI 에이전트를 도입하라”는 이야기는 많이 듣는데, 막상 제품 소개서를 펼치면 상담 에이전트, 코딩 에이전트, 리서치 에이전트, 멀티 에이전트, 자율 에이전트 같은 이름이 한꺼번에 쏟아집니다. 같은 단어를 쓰는데 하는 일과 위험 수준은 전혀 다릅니다. 온도가 내려가면 히터를 켜는 단순한 규칙형도 에이전트이고, 사내 결재 시스템을 조회해 보고서를 쓰고 담당자 승인까지 받아 내는 시스템도 에이전트입니다. 그래서 AI 에이전트 종류를 먼저 구분해야 예산, 보안 검토, 운영 인력의 크기를 제대로 잡을 수 있습니다. 이 글은 AI란 무엇인가에서 다룬 인공지능의 기본 개념 위에서, 교과서가 정리한 다섯 가지 유형과 실무에서 쓰는 분류 축을 함께 묶어 설명합니다. 에이전트의 정의와 내부 구조 자체가 궁금하다면 AI Agent란 무엇인가를 먼저 읽어 두면 좋습니다.

AI 도입, 어디서부터 시작할지 함께 정리해 드립니다

어떤 업무를 API 에 남기고 무엇을 사내로 내릴지 — 도입 범위와 총소유비용 판단까지 MSAP.ai 전문가가 함께 설계합니다.

이 글이 답하는 여덟 가지 질문 목록

“AI 에이전트 종류”, “AI agent 종류”, “AI 에이전트 유형”을 검색하는 분들이 실제로 궁금해하는 내용을 기준으로 순서를 잡았습니다.

  1. AI 에이전트란 무엇이고, 왜 종류를 나눠서 봐야 하나요?
  2. 교과서에서 말하는 AI 에이전트 종류 5가지는 무엇인가요?
  3. 다섯 유형은 각각 어떤 업무에 어울리나요?
  4. 대형 언어 모델(LLM) 기반 에이전트는 이 분류에서 어디에 속하나요?
  5. 자율성 수준으로 나누면 어떤 단계가 있나요?
  6. 단일 에이전트와 멀티 에이전트, 계층형 에이전트는 언제 쓰나요?
  7. 업무 역할별로는 어떤 AI 에이전트가 있고, 챗봇이나 RPA와는 어떻게 다른가요?
  8. 우리 조직은 어떤 종류부터 도입해야 하나요?

AI 에이전트란 무엇이고 왜 종류를 나눠 봐야 하나?

AI 에이전트는 환경을 관찰하고, 목표에 맞는 행동을 스스로 골라 실행하는 소프트웨어입니다. 여기서 환경은 공장의 센서 값일 수도 있고, 고객이 보낸 문의 메일이나 사내 데이터베이스일 수도 있습니다. 행동은 히터 스위치를 켜는 일부터 API를 호출하고 보고서를 작성하는 일까지 폭이 넓습니다. 인공지능 교과서의 고전인 러셀과 노빅의 “Artificial Intelligence: A Modern Approach”는 에이전트를 센서로 환경을 인식하고 액추에이터로 환경에 작용하는 모든 것으로 정의합니다. 이 정의가 넓은 만큼, 같은 AI 에이전트라는 이름 아래 성격이 전혀 다른 시스템이 함께 묶입니다.

종류를 나눠 봐야 하는 이유는 세 가지입니다. 첫째, 유형에 따라 실패했을 때 피해 범위가 달라집니다. 정해진 규칙만 따르는 에이전트는 틀려도 규칙이 틀린 것이므로 원인을 찾기 쉽습니다. 반면 스스로 계획을 세우고 도구를 고르는 에이전트는 같은 질문에도 다른 경로를 택할 수 있어 감사와 추적 장치가 필요합니다. 둘째, 유형에 따라 필요한 데이터와 인프라가 다릅니다. 학습형 에이전트는 피드백 데이터를 쌓는 구조가 있어야 하고, 멀티 에이전트는 에이전트 사이의 통신과 상태 관리를 따로 설계해야 합니다. 셋째, 유형을 모르면 과잉 투자를 합니다. 단순한 조회 업무에 자율형 에이전트를 붙이면 비용과 위험만 늘어납니다.

구분 단순한 AI 에이전트 복잡한 AI 에이전트
행동 결정 방식 미리 정한 규칙을 그대로 실행 목표와 상황을 보고 계획을 세움
결과 예측 가능성 높음 낮음, 같은 입력에도 경로가 달라질 수 있음
필요한 통제 장치 규칙 검토 권한 제한, 사람 승인, 실행 기록
대표 예 임계값 알림, 자동 분류 조사 보고서 작성, 다단계 업무 처리

결국 AI 에이전트 종류를 구분하는 일은 기술 분류가 아니라 위험과 투자 규모를 가늠하는 작업입니다. 이 관점으로 아래 분류 기준을 보시면 각 유형이 왜 그런 이름을 갖게 되었는지 훨씬 쉽게 이해됩니다.

AI 에이전트 종류를 나누는 다섯 가지 기준

AI 에이전트 종류를 설명하는 글을 보면 어떤 곳은 다섯 가지, 어떤 곳은 일곱 가지라고 말합니다. 숫자가 다른 이유는 나누는 기준이 다르기 때문입니다. 실무에서는 다음 다섯 가지 축을 겹쳐서 보는 것이 가장 정확합니다.

분류 기준 무엇을 보나 대표 유형
판단 방식 행동을 어떤 논리로 고르는가 단순 반사형, 모델 기반 반사형, 목표 기반, 효용 기반, 학습형
자율성 수준 사람이 정한 흐름을 얼마나 벗어날 수 있는가 워크플로형, 라우터형, 도구 호출형, 다단계 자율형
구조 에이전트가 몇 개이고 어떻게 협업하는가 단일 에이전트, 멀티 에이전트, 계층형 에이전트
업무 역할 어떤 일을 맡기는가 상담, 코딩, 리서치, IT 운영, 문서 처리, 데이터 분석
배포 방식 어디에서 실행되고 데이터가 어디로 가는가 SaaS형, 사내 설치형, 혼합형

첫 번째 축인 판단 방식은 인공지능 교과서가 수십 년 동안 써 온 분류이며, 흔히 “AI 에이전트 종류 5가지”라고 할 때 가리키는 내용입니다. IBM 역시 이 분류를 그대로 사용해 단순 반사형부터 학습형까지 다섯 가지 유형을 설명하고, 이 유형들이 하나의 멀티 에이전트 시스템 안에서 함께 배치될 수 있다고 덧붙입니다. 나머지 네 축은 대형 언어 모델이 등장한 뒤 실무에서 자주 쓰이는 분류입니다.

하나의 AI 에이전트는 다섯 축 모두에서 위치를 가집니다. 예를 들어 사내 IT 장애를 분석하는 에이전트는 판단 방식으로는 목표 기반, 자율성으로는 도구 호출형, 구조로는 단일 에이전트, 업무 역할로는 IT 운영, 배포 방식으로는 사내 설치형일 수 있습니다. 그러니 “우리가 도입할 AI 에이전트 종류가 무엇이냐”는 질문에는 한 단어가 아니라 다섯 칸짜리 답이 나와야 합니다. 이 글의 뒷부분에서 이 다섯 칸을 채우는 방법을 차례로 설명합니다.

이렇게 축을 나눠 보면 시장에서 쓰는 AI 에이전트 종류 이름이 어느 축의 말인지도 구분됩니다. “코딩 에이전트”는 업무 역할 축의 이름이고, “자율 에이전트”는 자율성 축, “멀티 에이전트”는 구조 축, “온프레미스 에이전트”는 배포 방식 축의 이름입니다. 서로 다른 축의 이름을 한 줄에 나란히 놓고 비교하면 판단이 꼬입니다. 예를 들어 “코딩 에이전트와 멀티 에이전트 중 무엇이 좋은가”라는 질문은 성립하지 않습니다. 코딩 업무를 멀티 에이전트 구조로 처리할 수도 있기 때문입니다. AI 에이전트 종류를 비교할 때는 같은 축 안의 선택지끼리만 비교해야 합니다.

단순 반사형 에이전트는 어떻게 동작하나?

단순 반사형 에이전트(simple reflex agent)는 지금 들어온 입력만 보고 “조건이면 행동” 규칙을 실행합니다. 과거에 무슨 일이 있었는지 기억하지 않고, 미래를 예측하지도 않습니다. 교과서에서 드는 대표 예는 온도 조절기입니다. 실내 온도가 설정값보다 낮으면 히터를 켜고, 목표 온도에 도달하면 끕니다. IBM도 같은 예를 들어 이 유형을 설명합니다.

기업 업무에서는 생각보다 이 유형이 많습니다. 서버 CPU 사용률이 90%를 넘으면 담당자에게 알림을 보내는 규칙, 특정 단어가 들어간 메일을 스팸함으로 옮기는 필터, 결재 금액이 기준을 넘으면 상위 결재자에게 자동으로 넘기는 규칙이 모두 단순 반사형 AI 에이전트의 구조를 갖고 있습니다. 엄밀히 말하면 학습이나 추론이 없으므로 인공지능이라고 부르기 어렵다는 의견도 있지만, 에이전트 분류에서는 가장 기본이 되는 유형입니다.

항목 단순 반사형의 특징
입력 현재 시점의 관찰값 하나
판단 조건-행동 규칙표
기억 없음
장점 빠르고, 결과를 100% 예측할 수 있고, 검증이 쉬움
한계 규칙에 없는 상황에서 아무것도 하지 못하거나 엉뚱하게 반응함

이 유형의 가장 큰 약점은 환경을 부분적으로만 볼 때 쉽게 틀린다는 점입니다. 예를 들어 알림 규칙이 순간적인 수치 하나만 보면, 1초 동안 튄 값에도 경보가 울리고 운영자는 곧 알림을 무시하게 됩니다. 그래서 실무에서는 단순 반사형을 안전 차단이나 1차 분류처럼 빠르고 확실해야 하는 자리에 둡니다. 공장 설비의 비상 정지, 금융 거래의 한도 초과 차단처럼 사람이 판단하기 전에 즉시 멈춰야 하는 곳이 대표적입니다. 이런 자리에 굳이 복잡한 AI 에이전트를 넣을 필요는 없습니다.

모델 기반 반사형 에이전트는 무엇이 다른가?

모델 기반 반사형 에이전트(model-based reflex agent)는 규칙을 따르되, 지금 눈에 보이지 않는 상태를 내부 모델로 추적합니다. 여기서 모델은 대형 언어 모델이 아니라 “세상이 어떻게 변하는지, 내 행동이 무엇을 바꾸는지”에 대한 내부 기록을 뜻합니다. IBM은 이미 지나온 경로와 발견한 장애물을 기억하며 방 안을 움직이는 로봇을 예로 듭니다. 로봇 청소기가 이미 청소한 구역을 기억해 같은 곳을 반복하지 않는 것도 같은 원리입니다.

이 유형은 단순 반사형의 약점을 직접 보완합니다. 앞의 알림 예에 적용하면, 에이전트는 최근 5분 동안의 CPU 추세를 내부 상태로 들고 있다가 일정 시간 이상 높은 값이 이어질 때만 경보를 보냅니다. 고객 상담에서는 이전 대화에서 고객이 이미 본인 확인을 마쳤다는 상태를 기억해 같은 질문을 반복하지 않습니다. 같은 규칙형이라도 상태를 기억하느냐에 따라 사용자가 느끼는 품질이 크게 달라집니다.

다만 모델 기반 반사형 AI 에이전트도 결국 규칙으로 움직입니다. 상태를 더 잘 알 뿐, “무엇을 이루려고 하는가”라는 목표를 갖고 있지 않습니다. 그래서 규칙에 없는 새로운 목표가 주어지면 대응하지 못합니다. 기업에서 이 유형이 잘 맞는 곳은 설비 상태 모니터링, 재고 수준에 따른 자동 발주, 세션 상태를 기억해야 하는 단순 상담 흐름처럼 상태는 복잡하지만 해야 할 일은 정해진 업무입니다. 이 유형을 설계할 때는 내부 상태를 어디에 저장하고 언제 초기화할지를 먼저 정해야 합니다. 상태가 꼬이면 규칙이 맞아도 결과가 틀리기 때문입니다.

목표 기반 에이전트가 계획을 세우는 방식

목표 기반 에이전트(goal-based agent)는 “어떤 상태에 도달해야 하는가”를 알고, 그 목표에 가까워지는 행동을 골라 순서대로 실행합니다. 규칙표 대신 목표를 받기 때문에, 규칙을 미리 다 적어 두지 않아도 새로운 상황에서 경로를 찾을 수 있습니다. IBM은 건물 안에서 목표 방까지 가는 길을 계획하고, 알고 있는 장애물을 피해 가는 로봇을 예로 듭니다. 내비게이션 앱이 목적지를 입력받아 경로를 탐색하는 것도 목표 기반 방식입니다.

목표 기반 AI 에이전트의 핵심은 탐색과 계획입니다. 가능한 행동을 나열하고, 각 행동이 상태를 어떻게 바꾸는지 예측한 뒤, 목표에 닿는 행동의 순서를 찾습니다. 대형 언어 모델 시대의 업무형 에이전트는 대부분 이 구조를 따릅니다. “지난달 장애 보고서를 정리해 줘”라는 목표를 받으면 에이전트는 장애 티켓 조회, 로그 요약, 원인별 분류, 보고서 작성이라는 단계를 스스로 세우고 하나씩 실행합니다.

가운데 목표를 두고 계획, 도구 호출, 결과 확인, 다음 행동의 네 단계가 원을 그리며 반복되는 목표 기반 에이전트의 작동 순환을 그린 슬라이드입니다. 한 번의 지시로 끝나지 않고 결과를 확인한 뒤 수정하거나 종료를 스스로 결정한다는 점을 알 수 있습니다.

그림. 목표 기반 에이전트는 계획, 도구 호출, 결과 확인, 다음 행동을 목표에 닿을 때까지 반복합니다.

비교 항목 반사형 에이전트 목표 기반 에이전트
판단 근거 조건-행동 규칙 목표와 행동의 결과 예측
새로운 상황 대응 규칙이 없으면 대응 불가 다른 경로를 탐색해 대응
실행 속도 매우 빠름 계획 단계만큼 느림
운영 위험 낮음 경로가 매번 달라질 수 있어 추적 필요

이 유형을 업무에 넣을 때는 목표를 측정 가능하게 적는 일이 가장 중요합니다. “좋은 보고서”는 목표가 아니고, “장애 건수, 원인 분류, 재발 방지책이 들어간 2쪽 요약”이 목표입니다. 목표가 모호하면 에이전트는 엉뚱한 단계에서 멈추거나 끝없이 계획을 고칩니다. 또 계획의 각 단계가 사내 시스템을 건드린다면 어느 단계에서 사람이 확인할지를 함께 정해 두어야 합니다.

효용 기반 에이전트는 여러 선택지 중 무엇을 고르나?

효용 기반 에이전트(utility-based agent)는 목표를 이루는 여러 방법 가운데 가장 이득이 큰 방법을 고릅니다. 목표 기반 에이전트가 “도착했는가, 못 했는가”만 따진다면, 효용 기반 에이전트는 “얼마나 빠르게, 얼마나 싸게, 얼마나 안전하게 도착했는가”를 점수로 매깁니다. IBM은 속도, 연료 효율, 안전을 함께 따지는 자율주행차와 가격을 상황에 맞게 바꾸는 전자상거래 시스템을 예로 듭니다.

기업 업무는 대부분 상충하는 조건 사이에서 결정을 내립니다. 물류에서는 배송 시간과 운송비를, 제조에서는 생산량과 에너지 비용을, IT 운영에서는 응답 속도와 클라우드 비용을 함께 따집니다. 이런 의사결정에는 효용 기반 AI 에이전트가 어울립니다. 에이전트는 각 선택지에 점수를 매기는 효용 함수를 갖고 있고, 가장 높은 점수를 주는 행동을 실행합니다.

이 유형을 도입할 때 가장 어려운 부분은 기술이 아니라 효용 함수를 정하는 일입니다. 비용 1원 절감과 납기 1시간 단축 중 무엇이 더 중요한지, 고객 만족도 하락을 몇 점으로 볼지 같은 기준은 현업과 경영진이 합의해야 합니다. 이 합의 없이 에이전트를 돌리면, 에이전트는 숫자로 정해진 기준만 최대화하면서 조직이 실제로 원하는 것과 다른 결정을 내립니다. 그래서 효용 기반 에이전트 프로젝트의 첫 회의 안건은 모델 선택이 아니라 판단 기준의 가중치여야 합니다.

대형 언어 모델 기반 시스템에서도 이 개념이 쓰입니다. 질문의 난이도에 따라 저비용 모델과 고성능 모델 중 하나를 고르는 모델 라우팅이 대표적입니다. 단순한 검색이나 의도 분류는 작고 빠른 모델에, 판단이 어려운 요청은 큰 모델에 보내면 품질과 비용 사이에서 균형을 잡을 수 있습니다. OpenAI의 에이전트 구축 가이드도 모든 작업에 가장 똑똑한 모델이 필요한 것은 아니라며 작업마다 모델을 달리 쓰는 방법을 권합니다.

배차 업무를 예로 들어 보겠습니다. 목표 기반 AI 에이전트는 “오늘 주문 120건을 모두 배송한다”는 목표만 보고 가능한 경로를 하나 찾아 실행합니다. 효용 기반 에이전트는 같은 목표를 이루는 경로 여러 개를 놓고 총 이동 거리, 기사별 근무 시간, 약속 시간 위반 건수에 각각 점수를 매긴 뒤 합계가 가장 좋은 경로를 고릅니다. 두 에이전트 모두 배송을 끝내지만, 운영 비용과 기사 만족도는 크게 달라질 수 있습니다. 이 차이 때문에 반복적인 최적화 업무에서는 목표 기반보다 효용 기반 설계가 투자 대비 효과가 큽니다.

학습 에이전트는 어떻게 스스로 나아지나?

학습 에이전트(learning agent)는 행동의 결과에서 피드백을 받아 다음 판단을 개선합니다. 앞의 네 유형이 “어떻게 판단하는가”에 대한 분류라면, 학습 에이전트는 “그 판단 방식을 시간이 지나며 고칠 수 있는가”에 대한 분류입니다. 교과서는 학습 에이전트를 행동을 고르는 수행 요소, 결과를 평가하는 비평 요소, 개선 방법을 찾는 학습 요소, 새로운 시도를 제안하는 문제 생성 요소의 네 부분으로 설명합니다. IBM은 보상과 벌점을 받아 전략을 다듬는 강화학습 에이전트를 예로 듭니다.

기업에서 흔히 보는 학습형 AI 에이전트는 추천 시스템과 이상 탐지 시스템입니다. 사용자가 추천을 클릭했는지, 운영자가 경보를 오탐으로 닫았는지가 피드백이 되고, 에이전트는 이 데이터로 다음 판단을 조정합니다. 대형 언어 모델 기반 에이전트에서는 모델 자체를 다시 학습시키는 대신 사용자 평가, 성공한 작업 기록, 실패 사례를 메모리나 지식베이스에 쌓아 다음 작업에 참고하게 하는 방식이 많이 쓰입니다.

학습 방식 무엇이 바뀌나 기업 적용 예
모델 재학습 모델의 가중치 품질 검사 이미지 모델을 새 불량 데이터로 다시 학습
강화학습 행동 정책 물류 경로, 설비 제어 최적화
메모리 축적 참고하는 기록과 사례 상담 에이전트가 해결된 문의를 사례로 저장
사람 피드백 반영 프롬프트와 규칙 담당자가 고친 답변을 다음 버전 지침에 반영

학습형 AI 에이전트는 시간이 지날수록 좋아질 수 있지만, 잘못된 피드백도 똑같이 학습한다는 위험이 있습니다. 일부 사용자의 편향된 평가나 오염된 데이터가 쌓이면 판단이 조금씩 틀어지고, 이 변화는 한참 뒤에야 드러납니다. 그래서 학습 데이터의 출처를 기록하고, 정기적으로 성능을 측정해 이전 버전과 비교하고, 문제가 생기면 이전 상태로 되돌릴 수 있는 구조를 함께 갖춰야 합니다.

교과서가 말하는 네 요소를 사내 상담 업무에 대입해 보면 구조가 더 잘 보입니다. 수행 요소는 고객 문의에 답하는 상담 AI 에이전트 자체입니다. 비평 요소는 상담이 끝난 뒤 고객 평가와 상담원 검토 결과를 모아 “이 답변이 문제를 해결했는가”를 판정합니다. 학습 요소는 해결된 답변을 사례집에 추가하고, 반복해서 틀린 유형은 지침을 고치도록 제안합니다. 문제 생성 요소는 아직 시도해 보지 않은 답변 방식, 예를 들어 표로 정리한 안내나 단계별 안내를 일부 문의에 시험해 보자고 제안합니다. 이 네 요소 가운데 사람이 맡아야 할 부분과 기계에 맡길 부분을 나누는 것이 학습형 설계의 핵심입니다. 국내 기업에서는 비평과 학습 요소의 최종 승인을 사람이 맡고, 기계는 후보를 모으는 역할만 하는 방식이 가장 많이 쓰입니다.

AI 에이전트 종류 5가지 비교 정리

지금까지 본 다섯 유형을 한 표로 정리하면 다음과 같습니다. 오른쪽으로 갈수록 판단이 유연해지는 대신, 예측 가능성은 떨어지고 운영에 필요한 통제 장치는 늘어납니다.

유형 판단 근거 기억 대표 예 기업에서 어울리는 자리 운영 난도
단순 반사형 현재 입력과 규칙 없음 온도 조절기, 임계값 알림 안전 차단, 1차 분류 낮음
모델 기반 반사형 규칙과 내부 상태 있음 로봇 청소기, 추세 기반 알림 설비 모니터링, 자동 발주 낮음~중간
목표 기반 목표와 계획 있음 내비게이션, 업무 처리 에이전트 보고서 작성, 다단계 업무 중간
효용 기반 결과의 점수 있음 자율주행, 동적 가격 배차, 생산 계획, 모델 라우팅 중간~높음
학습형 피드백에 따른 개선 있음 추천, 강화학습 제어 추천, 이상 탐지, 상담 품질 개선 높음

이 표를 읽을 때 기억할 점이 두 가지 있습니다. 첫째, 다섯 유형은 서로 배타적인 칸이 아니라 겹쳐 쓰는 설계 요소입니다. 실제 시스템은 목표 기반 에이전트가 계획을 세우고, 효용 함수로 선택지를 고르고, 피드백으로 학습하는 식으로 여러 유형의 성질을 함께 가집니다. 둘째, 더 복잡한 유형이 더 좋은 유형은 아닙니다. 안전 차단처럼 확실해야 하는 자리는 단순 반사형이 정답이고, 그 자리에 학습형을 넣으면 오히려 위험해집니다. 인공지능의 기술 분류 전반이 궁금하다면 AI 종류 총정리에서 머신러닝, 딥러닝, 생성형 AI와 함께 큰 그림을 볼 수 있습니다.

LLM 시대에 다섯 유형은 어떻게 다시 나타나나?

교과서의 다섯 유형은 대형 언어 모델이 나오기 훨씬 전에 정리된 분류입니다. 그런데 오늘날 기업이 말하는 AI 에이전트는 대부분 LLM을 두뇌로 쓰는 목표 기반 에이전트입니다. 사용자가 목표를 자연어로 주면, 모델이 계획을 세우고, 도구를 호출하고, 결과를 보고 다음 행동을 정합니다. 생성형 AI란 무엇인가에서 설명한 언어 모델이 텍스트를 만드는 데서 그치지 않고 행동을 고르는 역할까지 맡게 된 것입니다.

OpenAI가 공개한 에이전트 구축 가이드는 에이전트의 기본 구성 요소를 모델, 도구, 지침 세 가지로 설명합니다. 모델은 추론과 의사결정을 맡고, 도구는 에이전트가 행동하는 데 쓰는 외부 함수나 API이며, 지침은 에이전트가 어떻게 행동해야 하는지 정한 규칙과 가드레일입니다. 같은 가이드는 도구를 다시 세 가지로 나눕니다. 정보를 가져오는 데이터 도구, 시스템에 기록하거나 메시지를 보내는 행동 도구, 다른 에이전트를 도구처럼 부르는 오케스트레이션 도구입니다.

LLM 기반 에이전트의 특징을 계획과 되돌아보기, 도구 실행이라는 두 가지 핵심 특징과 프로파일링, 장기 기억이라는 두 가지 보조 기능으로 나눈 슬라이드입니다. 계획을 세우고 결과를 보며 고치는 능력과 외부 도구를 실행하는 능력이 단순한 언어 모델과 에이전트를 가르는 기준이라는 점을 알 수 있습니다.

그림. 계획·되돌아보기와 도구 실행이 언어 모델을 에이전트로 만드는 핵심 특징입니다.

이 구성 위에서 다섯 유형의 성질은 이렇게 다시 나타납니다.

  • 단순 반사형 → 입력을 분류해 정해진 응답을 돌려주는 의도 분류기, 금칙어 차단 같은 가드레일
  • 모델 기반 반사형 → 대화 기록과 세션 상태를 기억하는 상담 흐름
  • 목표 기반 → 목표를 받아 계획을 세우고 도구를 호출하는 업무형 AI 에이전트
  • 효용 기반 → 비용과 품질을 따져 모델이나 도구를 고르는 라우터
  • 학습형 → 성공 사례와 사용자 평가를 메모리에 쌓아 다음 작업에 반영하는 에이전트

여기서 중요한 변화가 하나 있습니다. 예전에는 목표 기반 에이전트를 만들려면 가능한 행동과 상태를 사람이 모두 정의해야 했습니다. 지금은 언어 모델이 자연어 지시를 이해하고 행동 순서를 직접 만들어 내기 때문에 목표 기반 에이전트를 만드는 비용이 크게 낮아졌습니다. 대신 모델의 판단이 확률적이라 같은 요청에도 다른 경로를 택할 수 있다는 새로운 위험이 생겼습니다. 생성형 AI가 어떤 단계를 거쳐 에이전트로 발전했는지는 생성형 AI 진화 4단계에서 자세히 다룹니다.

자율성 수준으로 본 AI 에이전트 종류는 어떻게 나뉘나?

LLM 기반 시스템에서는 판단 방식보다 자율성 수준으로 AI 에이전트 종류를 나누는 방식이 더 실용적입니다. 사람이 정한 흐름을 모델이 얼마나 바꿀 수 있느냐가 곧 위험의 크기이기 때문입니다. 허깅페이스의 에이전트 라이브러리 smolagents 문서는 에이전트를 “LLM의 출력이 워크플로를 제어하는 프로그램”으로 정의하고, 에이전트 여부는 0과 1로 나뉘지 않으며 모델에 주는 권한에 따라 연속적으로 달라진다고 설명합니다. 이 문서의 단계 구분을 우리말로 옮기면 다음과 같습니다.

자율성이 낮은 프롬프트 체인, 중간 단계인 반성과 도구 사용 흐름, 자율성이 높은 자율 에이전트를 하나의 막대 위에 차례로 놓은 슬라이드입니다. 에이전트인지 아닌지를 가르는 대신 자율성의 정도로 보면 단순 워크플로부터 자율 에이전트까지 한 축에서 비교할 수 있다는 점을 알 수 있습니다.

그림. 자율성의 정도로 보면 프롬프트 체인부터 자율 에이전트까지 한 축 위에 놓입니다.

자율성 수준 모델 출력이 하는 일 이름 업무 예
0단계 흐름에 영향을 주지 않음 단순 처리기 문서 요약 결과를 그대로 저장
1단계 분기 하나를 결정 라우터 문의를 요금, 장애, 계약 담당으로 분류
2단계 어떤 함수를 실행할지 결정 도구 호출 고객 번호로 계약 정보 조회
2단계 반복과 종료를 결정 다단계 에이전트 조회, 분석, 작성을 반복하며 보고서 완성
3단계 다른 에이전트를 시작 멀티 에이전트 조사 에이전트가 작성 에이전트를 호출
3단계 코드를 작성해 실행 코드 에이전트 데이터 분석 코드를 직접 짜서 실행

앤트로픽은 2024년 12월 글 “Building effective agents”에서 이 차이를 워크플로와 에이전트로 나눕니다. 워크플로는 LLM과 도구가 코드로 미리 정한 경로를 따라 움직이는 시스템이고, 에이전트는 모델이 스스로 단계와 도구 사용을 정하는 시스템입니다. 이 글이 제시한 워크플로 패턴은 프롬프트 체이닝, 라우팅, 병렬화, 오케스트레이터-워커, 평가자-최적화의 다섯 가지입니다. 그리고 가능한 가장 단순한 해법을 찾고, 필요할 때만 복잡도를 높이라고 권합니다.

이 기준은 도입 판단에 바로 쓸 수 있습니다. 업무 흐름을 미리 그릴 수 있다면 워크플로형으로 충분하고, 그 편이 더 싸고 안정적입니다. 허깅페이스 문서도 정해진 흐름으로 모든 요청을 처리할 수 있다면 그냥 코드로 짜라고 권합니다. 미리 정한 흐름이 자주 막힐 때 비로소 자율형 AI 에이전트가 필요합니다. 예를 들어 “출장 일정이 바뀌었는데 보험과 숙소를 같이 바꿀 수 있나”처럼 여러 조건이 얽힌 요청은 미리 분기를 다 그리기 어렵기 때문에 다단계 에이전트가 어울립니다. 워크플로와 에이전트를 하나의 흐름으로 묶는 운영 계층은 AI 오케스트레이션이란에서 따로 정리했습니다.

자율성 단계가 올라갈수록 따라붙어야 하는 통제도 늘어납니다. 라우터 단계까지는 분기 결과만 기록해도 충분하지만, 도구 호출 단계부터는 어떤 도구를 어떤 인자로 불렀는지 남겨야 합니다. 다단계 에이전트는 반복 횟수와 사용 토큰에 상한을 걸어야 끝없이 도는 상황을 막을 수 있습니다. 코드 에이전트는 모델이 직접 쓴 코드를 실행하므로 격리된 실행 환경, 즉 샌드박스가 필수입니다. 이처럼 자율성 단계는 곧 보안 검토의 깊이를 정하는 기준이 됩니다. 보안팀과 협의할 때 “에이전트를 도입한다”고 말하기보다 “도구 호출 단계의 AI 에이전트를 읽기 전용 권한으로 도입한다”고 말하면 검토 범위가 훨씬 명확해집니다.

자율성 단계는 비용 예측에도 영향을 줍니다. 코드에 적힌 횟수만큼 모델을 부르는 워크플로와 달리, 다단계 에이전트는 목표를 받은 뒤 어떤 도구를 부르고 언제 멈출지를 스스로 정하며 단계마다 모델을 다시 호출합니다. 그래서 사용자 요청 한 건이 모델 호출 몇 건으로 이어질지는 실행해 봐야 알 수 있고, 호출량은 사용자 수보다 에이전트가 맡은 작업의 단계 수에 따라 달라집니다. 자율형 AI 에이전트가 늘어날수록 모든 모델 호출을 한곳에서 세고 제한하는 게이트웨이를 먼저 두는 이유가 여기에 있습니다.

단일·멀티·계층형 에이전트는 언제 쓰나?

구조로 본 AI 에이전트 종류는 에이전트가 몇 개이고 어떻게 일을 나누느냐에 따른 분류입니다. 크게 단일 에이전트, 멀티 에이전트, 계층형 에이전트로 나뉩니다.

단일 에이전트는 하나의 모델이 지침과 도구를 들고 처음부터 끝까지 일을 처리하는 구조입니다. OpenAI 가이드는 단일 에이전트도 도구를 하나씩 늘려 가며 많은 작업을 처리할 수 있고, 이렇게 하면 복잡도를 관리하기 쉽고 평가와 유지보수가 간단해진다고 설명합니다. 새 도구가 생길 때마다 능력이 늘어나므로, 서둘러 여러 에이전트를 조율할 필요가 없습니다. 대부분의 기업은 이 구조에서 시작하는 것이 맞습니다.

멀티 에이전트는 역할이 다른 여러 에이전트가 협업하는 구조입니다. OpenAI 가이드는 두 가지 패턴을 소개합니다. 하나는 중앙의 관리자 에이전트가 전문 에이전트들을 도구처럼 호출하는 관리자 패턴이고, 다른 하나는 에이전트들이 동등한 위치에서 전문 분야에 따라 작업을 서로 넘기는 분산 패턴입니다. 고객 문의를 받은 접수 에이전트가 요금 문의는 요금 에이전트에게, 기술 문의는 기술 지원 에이전트에게 넘기는 구조가 분산 패턴의 예입니다.

계층형 에이전트는 상위 에이전트가 큰 목표를 하위 작업으로 쪼개고, 하위 에이전트가 각 작업을 맡는 구조입니다. IBM은 계층형 에이전트가 복잡한 문제를 작은 작업으로 나누며, 상위 에이전트는 전체 목표를, 하위 에이전트는 구체 작업을 다룬다고 설명합니다. 같은 글에서 IBM은 스마트 공장을 예로 들어, 안전 차단은 반사형, 설비 유지보수는 모델 기반, 생산 일정은 목표 기반, 비용과 에너지 균형은 효용 기반, 지속 최적화는 학습형 에이전트가 맡는 구성을 소개합니다.

구조 언제 쓰나 장점 주의할 점
단일 에이전트 업무 범위가 하나이고 도구가 10개 안팎일 때 단순하고 평가가 쉬움 지침이 길어지면 판단이 흔들림
멀티 에이전트(관리자) 전문 영역이 뚜렷이 나뉘고 결과를 한곳에서 합쳐야 할 때 역할 분리, 부분 교체 쉬움 관리자 에이전트의 판단이 병목
멀티 에이전트(분산) 접수 후 담당 부서로 넘기는 업무 각 에이전트가 독립적 넘김 경로 추적이 어려움
계층형 큰 목표를 여러 하위 작업으로 쪼개야 할 때 큰 문제를 체계적으로 분해 단계가 깊을수록 비용과 지연 증가

멀티 에이전트로 넘어가는 신호는 분명합니다. 지침에 조건문이 너무 많아져 모델이 헷갈리거나, 도구가 서로 비슷해 잘못 고르는 일이 반복될 때입니다. 이 신호가 없다면 단일 에이전트에 도구를 더하는 편이 낫습니다. 멀티 에이전트의 협업 패턴과 실패 모드는 멀티 에이전트 시스템 설계에서 깊이 다루므로 이 글에서는 구조 선택 기준까지만 정리합니다.

역할별로 에이전트 프로필을 나누고 팀처럼 구성하는 구체적인 방법은 Agentic AI 멀티에이전트 프로필과 역할 기반 팀 구성 백서에서 함께 읽을 수 있습니다.

업무 역할별 AI 에이전트 종류 정리

현업 담당자가 가장 많이 묻는 질문은 “그래서 어떤 일을 맡길 수 있느냐”입니다. 업무 역할로 본 AI 에이전트 종류는 제품 시장에서 가장 흔히 쓰이는 분류이기도 합니다. 대표적인 여섯 가지를 정리하면 다음과 같습니다.

업무 역할 하는 일 주로 쓰는 판단 방식 꼭 필요한 통제
고객 상담 에이전트 문의 분류, 답변, 처리 접수 모델 기반 반사형 + 목표 기반 답변 근거 표시, 상담원 전환
코딩 에이전트 코드 작성, 수정, 테스트, 리뷰 목표 기반 저장소 권한 제한, 변경 검토
리서치 에이전트 검색, 자료 비교, 요약 보고서 작성 목표 기반 + 효용 기반 출처 확인, 사실 검증
IT 운영 에이전트 장애 분석, 로그 조회, 조치 제안 모델 기반 반사형 + 목표 기반 조치 실행 전 사람 승인
문서 처리 에이전트 계약서·보고서 읽기, 항목 추출, 초안 작성 목표 기반 개인정보 마스킹, 원문 대조
데이터 분석 에이전트 질의 작성, 집계, 시각화 목표 기반, 코드 에이전트 읽기 전용 권한, 결과 검산

고객 상담 에이전트는 가장 먼저 도입되는 영역입니다. 다만 단순히 질문에 답하는 챗봇과 달리, 상담 에이전트는 주문 조회나 환불 접수처럼 시스템에 행동을 남긴다는 점이 다릅니다. 코딩 에이전트는 개발자의 지시를 받아 여러 파일을 수정하고 테스트까지 돌리는 형태로 빠르게 퍼지고 있습니다. 상용 서비스와 오픈소스의 선택 기준은 OpenCode 코딩 에이전트 도입 가이드에서 비교했습니다.

리서치 에이전트는 검색과 문서 읽기를 반복해 보고서를 만듭니다. 그럴듯한 문장을 지어내는 환각이 가장 큰 위험이므로 출처 링크를 반드시 남기게 해야 합니다. IT 운영 에이전트는 장애가 나면 로그와 지표를 모아 원인 후보를 좁히고 조치를 제안합니다. 재시작이나 설정 변경 같은 실제 조치는 사람이 승인한 뒤 실행하도록 설계하는 것이 안전합니다. 문서 처리 에이전트는 공공기관과 금융사처럼 문서 업무가 많은 조직에서 효과가 큽니다. 데이터 분석 에이전트는 자연어 질문을 질의문으로 바꿔 데이터를 조회하므로, 쓰기 권한 없이 읽기 전용 계정으로 연결해야 합니다.

질문을 이해하고 정보로 답하는 대화형 AI와, 목적을 이해해 필요한 정보와 도구를 고르고 스스로 행동해 결과를 돌려주는 AI 에이전트를 나란히 비교한 슬라이드입니다. IT 운영 업무에서는 클러스터 상태와 로그를 함께 조사하고 모호한 요청에서 원인과 다음 조치를 끌어내며, 사람은 목적 전달과 승인을 맡는다는 점을 알 수 있습니다.

그림. IT 운영 에이전트는 여러 데이터를 묶어 조사하고, 사람은 목적 전달과 승인을 맡습니다.

역할별 분류에서 기억할 점은 같은 역할이라도 자율성과 구조에 따라 위험이 완전히 달라진다는 점입니다. 답변만 하는 상담 에이전트와 환불을 직접 처리하는 상담 에이전트는 이름은 같아도 다른 보안 검토가 필요합니다. 그래서 역할 이름만 보고 AI 에이전트 종류를 판단하지 말고, 앞에서 본 자율성 단계와 구조를 함께 적어 두어야 합니다.

역할별 에이전트를 고를 때 흔히 하는 실수도 있습니다. 첫째는 부서마다 같은 역할의 에이전트를 따로 만드는 일입니다. 영업팀과 고객지원팀이 각자 문서 요약 에이전트를 만들면 같은 문서를 두 번 색인하고, 권한 관리도 두 벌이 됩니다. 둘째는 한 에이전트에 여러 역할을 몰아넣는 일입니다. 상담, 문서 작성, 데이터 조회를 한 에이전트에게 맡기면 지침이 길어지고 도구가 섞여 판단이 흔들립니다. 셋째는 역할을 정해 놓고 성공 기준을 정하지 않는 일입니다. 상담 에이전트라면 자동 해결률, 상담원 전환율, 재문의율처럼 측정할 숫자를 함께 정해야 도입 효과를 설명할 수 있습니다.

SaaS형과 사내 설치형 에이전트의 차이

배포 방식으로 본 AI 에이전트 종류는 에이전트가 어디에서 실행되고 데이터가 어디로 가느냐에 따른 분류입니다. 국내 공공기관과 금융사에는 이 축이 다른 어떤 기준보다 먼저 결정을 좌우하는 경우가 많습니다.

배포 방식 실행 위치 장점 한계 어울리는 조직
SaaS형 공급사 클라우드 빠른 시작, 최신 모델 사용, 운영 부담 적음 데이터가 외부로 나감, 사내 시스템 연결 제약 일반 사무, 외부 공개 데이터 업무
사내 설치형 사내 서버, 사내 쿠버네티스 데이터 주권, 내부망 시스템 연결, 권한 통제 초기 구축과 운영 인력 필요 공공, 금융, 제조 핵심 공정
혼합형 민감 업무는 사내, 일반 업무는 외부 비용과 통제의 균형 경로를 나누는 게이트웨이 설계 필요 대부분의 중견·대기업

SaaS형 AI 에이전트는 계정만 만들면 바로 쓸 수 있어 개인 생산성 도구로 퍼지기 좋습니다. 하지만 사내 결재, 인사, 고객 데이터베이스처럼 내부망 안에 있는 시스템을 다뤄야 하는 순간 한계가 드러납니다. 외부 서비스가 내부 시스템에 접근하려면 방화벽을 열어야 하고, 처리 과정에서 민감한 데이터가 외부로 나갈 수 있기 때문입니다.

사내 설치형 AI 에이전트는 모델, 에이전트 빌더, 도구 연결 서버를 모두 내부망에 두는 방식입니다. 오픈소스 언어 모델의 성능이 올라오면서 이 선택지가 현실적이 되었습니다. 쿠버네티스 위에 모델 서빙, LLM 게이트웨이, 에이전트 실행 환경을 함께 올리면, 에이전트를 여러 개 늘려도 같은 운영 체계로 관리할 수 있습니다. 실무에서는 민감 데이터를 다루는 에이전트는 사내 모델로만 처리하고, 공개 정보 요약 같은 업무는 외부 모델을 쓰는 혼합형이 가장 흔합니다. 이때 요청마다 경로를 정하는 게이트웨이가 정책의 실행 지점이 됩니다.

사내 설치형이라고 해서 기능이 줄어드는 것은 아닙니다. 명함 인식은 사내 AI 게이트웨이의 비전 모델로, 한글 공문서는 HWP·HWPX·PDF를 마크다운으로 바꾼 뒤 내부 OCR 엔진으로, 회의 녹음은 사내 GPU 서버의 음성 인식과 화자 분리로 처리하는 식으로 외부 AI 서비스를 부르지 않고도 업무형 AI 에이전트를 구성할 수 있습니다. 오픈소스 에이전트와 오픈 웨이트 모델로 사내에 구축하는 구체적인 조합은 사내 AI 구축, 오픈소스 Hermes 에이전트와 Gemma 4 도입 가이드에서 확인할 수 있습니다.

배포 방식은 다른 축의 선택에도 영향을 줍니다. 사내 설치형을 고르면 사용할 수 있는 모델의 크기가 사내 GPU 자원에 묶이므로, 모든 요청을 가장 큰 모델로 처리하는 설계는 현실적이지 않습니다. 그래서 사내 설치형 환경에서는 작은 모델로 처리할 수 있는 라우터나 도구 호출 단계의 AI 에이전트를 먼저 늘리고, 큰 모델이 꼭 필요한 다단계 작업은 업무를 골라 배정하는 방식이 효율적입니다. 반대로 SaaS형은 큰 모델을 쉽게 쓸 수 있지만 사내 시스템 연결이 제한되므로, 외부 공개 자료를 다루는 리서치 에이전트처럼 연결이 적은 AI 에이전트 종류에 어울립니다. 결국 배포 방식, 자율성, 업무 역할은 따로 정하는 항목이 아니라 서로 맞물려 정해지는 항목입니다.

챗봇·RPA와 AI 에이전트의 경계는 어디인가?

AI 에이전트 종류를 정리할 때 가장 헷갈리는 부분이 챗봇과 RPA(로봇 프로세스 자동화)와의 경계입니다. 셋 다 사람의 일을 대신한다는 점은 같지만, 판단과 행동을 누가 정하느냐가 다릅니다.

구분 챗봇 RPA AI 에이전트
핵심 역할 질문에 답변 정해진 화면 조작 반복 목표를 받아 판단하고 실행
흐름을 정하는 주체 시나리오 설계자 또는 모델의 답변 사람이 녹화한 절차 모델이 상황에 따라 결정
예외 상황 정해진 답이 없으면 상담원 연결 화면이 바뀌면 중단 다른 경로를 찾아 시도
시스템에 남기는 행동 거의 없음 많음, 그러나 고정 많음, 그리고 가변

정리하면 챗봇은 말하는 시스템, RPA는 정해진 대로 손을 움직이는 시스템, AI 에이전트는 상황을 보고 무엇을 할지 정해 손을 움직이는 시스템입니다. 교과서 분류로 보면 시나리오형 챗봇과 RPA는 대부분 단순 반사형이나 모델 기반 반사형에 가깝고, 목표 기반 이상부터 오늘날 말하는 에이전트에 해당합니다. 챗봇과 에이전트의 차이를 다섯 가지 기준으로 나눠 보려면 AI Agent와 챗봇의 차이를 참고하시기 바랍니다.

챗봇형 AI, 어시스턴트형 AI, RPA와 비교한 AI 에이전트의 특징을 세 칸으로 정리한 슬라이드입니다. 매번 지시하지 않아도 다음 작업을 스스로 추정하고, AI가 작업을 주도하며, 고정된 워크플로가 아니라 완료까지의 절차를 동적으로 만든다는 세 기준에 맞지 않으면 이름만 에이전트인 제품일 수 있다는 점을 알 수 있습니다.

그림. 챗봇형 AI, 어시스턴트형 AI, RPA와 AI 에이전트는 자율성에서 갈립니다.

이 경계가 중요한 이유는 시장에 “에이전트 워싱(agent washing)”이 많기 때문입니다. 가트너는 2025년 6월 발표에서 기존 AI 어시스턴트, RPA, 챗봇을 실질적인 에이전트 기능 없이 이름만 바꿔 파는 관행을 에이전트 워싱이라고 부르고, 에이전틱 AI 공급사 수천 곳 가운데 실제 에이전트 기능을 갖춘 곳은 약 130곳뿐이라고 추정했습니다. 같은 발표에서 가트너는 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 비용 증가, 불분명한 사업 가치, 부족한 위험 통제 때문에 중단될 것으로 전망했습니다. 한편 2028년에는 일상 업무 결정의 최소 15%가 에이전틱 AI로 자율적으로 이뤄지고, 기업용 소프트웨어 중 에이전틱 AI를 포함한 비율이 2024년 1% 미만에서 33%로 늘어날 것으로 내다봤습니다.

두 전망을 함께 읽으면 메시지는 분명합니다. 에이전트는 늘어나지만, 이름만 에이전트인 제품과 실제로 판단하고 실행하는 제품을 가려내지 못하면 프로젝트가 중간에 멈춥니다. 공급사 제안을 검토할 때는 “목표를 주면 단계를 스스로 정하는가”, “어떤 도구를 어떤 권한으로 호출하는가”, “실행 기록을 어디에 남기는가”를 직접 시연해 달라고 요청하는 것이 좋습니다.

챗봇에서 에이전트로 넘어갈 때 검토 항목도 바뀌어야 합니다. 챗봇은 답 하나를 돌려주고 멈추므로 다음에 무엇을 할지 정하는 주체가 언제나 사람이지만, 에이전트는 목표를 이룰 때까지 어떤 도구를 부르고 어떤 파일을 열지를 스스로 정해 여러 단계를 이어 갑니다. 그래서 챗봇을 고를 때 쓰던 검토표를 그대로 쓰면 되돌리기 어려운 동작을 아무도 막지 못한 채 운영이 시작됩니다. OWASP 생성형 AI 보안 프로젝트가 2025년 12월 에이전트형 애플리케이션 전용 위험 목록을 따로 공개한 것도 이 차이 때문입니다.

국내 공공·금융·제조에서는 어떤 종류부터 쓰나?

국내 기업과 기관이 실제로 AI 에이전트를 도입하는 순서를 보면, 업종마다 처음 고르는 종류가 다릅니다. 규제 수준, 데이터의 민감도, 업무의 정형화 정도가 다르기 때문입니다. 아래는 특정 기관의 실적이 아니라 업종별로 자주 보이는 출발점을 정리한 것입니다.

공공기관은 민원 응대와 내부 문서 업무에서 시작하는 경우가 많습니다. 처음에는 규정과 매뉴얼을 근거로 답하는 상담형 AI 에이전트를 내부망에 두고, 답변마다 근거 문서를 표시하게 합니다. 판단 방식으로는 모델 기반 반사형과 목표 기반의 중간이며, 자율성은 라우터나 도구 호출 단계에 머뭅니다. 지능형 홈페이지 상담을 도입하기 전에 확인할 항목은 공공기관 LLM 챗봇 도입 전 필수 체크리스트와 공공기관 Ask Gov 도입 사례에 정리해 두었습니다.

금융사는 고객 접점보다 내부 업무에서 먼저 시작하는 편입니다. 여신 심사 서류의 항목 추출, 내부 규정 검색, 상담 기록 요약처럼 결과를 사람이 검토하는 문서 처리 에이전트가 대표적입니다. 고객에게 바로 행동하는 에이전트는 설명 가능성과 책임 소재를 확보한 뒤에 넓힙니다. 배포 방식은 사내 설치형이나 혼합형이 기본입니다.

제조사는 설비와 품질 영역에서 모델 기반 반사형과 효용 기반 에이전트를 함께 씁니다. 설비 센서의 추세를 보고 이상을 알리는 에이전트, 생산 계획을 비용과 납기 기준으로 조정하는 에이전트가 예입니다. 최근에는 설비 매뉴얼과 정비 이력을 읽고 조치 방법을 안내하는 목표 기반 에이전트를 현장 작업자용으로 붙이는 사례도 늘고 있습니다.

업종 첫 번째로 고르는 종류 자율성 단계 배포 방식
공공 규정 기반 상담·문서 에이전트 라우터, 도구 호출 사내 설치형
금융 내부 문서 처리·요약 에이전트 도구 호출 사내 설치형, 혼합형
제조 설비 모니터링·정비 안내 에이전트 반사형 + 도구 호출 사내 설치형
IT 서비스 장애 분석·코딩 에이전트 다단계 에이전트 혼합형

업종과 상관없이 공통된 흐름이 있습니다. 처음에는 읽기만 하는 에이전트로 시작해 신뢰를 쌓고, 그다음에 쓰기와 실행 권한을 단계적으로 늘린다는 것입니다. 이 순서를 지키면 사고가 나도 피해 범위가 작고, 현업의 신뢰를 얻은 상태에서 자율성을 높일 수 있습니다.

IT 서비스 기업과 사내 IT 조직은 다른 업종보다 한 단계 높은 자율성에서 시작하는 경우가 많습니다. 개발과 운영 업무는 결과를 코드 리뷰나 테스트로 바로 검증할 수 있기 때문입니다. 코딩 AI 에이전트가 수정한 코드는 테스트를 통과해야 병합되고, 장애 분석 에이전트가 제안한 조치는 운영자가 확인한 뒤 실행됩니다. 검증 장치가 이미 업무 안에 있는 영역일수록 자율성을 높여도 위험이 작다는 점은 다른 업종도 참고할 만합니다.

우리 조직에 맞는 AI 에이전트 종류를 고르는 기준

지금까지 본 분류 축을 실제 선택으로 옮기려면 업무 하나를 놓고 다섯 가지 질문에 차례로 답하면 됩니다. 이 질문들은 도입 검토 회의에서 그대로 체크리스트로 써도 됩니다.

  1. 업무 흐름을 미리 그릴 수 있는가? 그릴 수 있으면 워크플로형으로 시작합니다. 그릴 수 없을 만큼 예외가 많을 때만 다단계 자율형 AI 에이전트를 검토합니다.
  2. 판단 기준이 하나인가, 여럿인가? 목표 달성 여부만 보면 목표 기반, 비용과 품질처럼 여러 기준을 저울질해야 하면 효용 기반 성질이 필요합니다. 이때 가중치는 현업과 먼저 합의해야 합니다.
  3. 에이전트가 시스템에 무엇을 남기는가? 조회만 하면 위험이 낮고, 기록 수정이나 외부 발송이 있으면 사람 승인 단계를 넣어야 합니다.
  4. 전문 영역이 몇 개인가? 하나면 단일 에이전트, 뚜렷이 나뉜 영역이 여럿이고 지침이 감당하기 어려울 만큼 길어졌다면 멀티 에이전트를 검토합니다.
  5. 데이터가 밖으로 나가도 되는가? 안 된다면 사내 설치형이나 혼합형으로 정하고, 모델과 도구 연결 서버를 내부망에 둡니다.

도입 심사에서는 어떤 모델을 쓰는지보다 에이전트에게 무엇을 위임했는지를 먼저 적는 것이 좋습니다. 위임 목록이 곧 공격면 목록이기 때문입니다. 사내 결재 시스템에 쓰기 권한을 준 에이전트와 사내 문서를 읽기만 하는 에이전트는 같은 모델을 쓰더라도 통제 요구가 다릅니다. 에이전트 위험을 항목별로 나눠 점검하는 방법은 OWASP 위험 분류 — 에이전트 검토의 8가지 필수 기능에 정리해 두었습니다.

질문 답이 “예”일 때 답이 “아니오”일 때
흐름을 미리 그릴 수 있나 워크플로형 다단계 에이전트 검토
판단 기준이 여럿인가 효용 기반 설계 목표 기반 설계
시스템에 쓰기를 하나 사람 승인, 실행 기록 필수 읽기 전용으로 시작
전문 영역이 여럿인가 멀티 에이전트 검토 단일 에이전트
데이터 외부 반출이 금지되나 사내 설치형 SaaS형, 혼합형

이 기준으로 정리한 결과는 “이 업무에는 목표 기반, 도구 호출 단계, 단일 구조, 문서 처리 역할, 사내 설치형 AI 에이전트가 맞다”처럼 다섯 칸으로 적어 둡니다. 이렇게 적어 두면 공급사 제안을 비교할 때 기준이 생기고, 나중에 자율성을 높일 때도 어느 칸을 바꾸는지 분명해집니다. 도입 전에 점검해야 할 기능 항목은 AI Agent 필수 기능 여덟 가지에서 함께 확인할 수 있습니다.

마지막으로 강조할 점은 처음부터 가장 자율적인 종류를 고르지 말라는 것입니다. 앞에서 본 가트너 전망처럼 많은 에이전트 프로젝트가 비용과 위험 통제 문제로 멈춥니다. 가장 단순한 종류로 시작해 성과를 측정하고, 막히는 지점이 확인될 때 한 칸씩 자율성을 올리는 방식이 결과적으로 가장 빠릅니다.

실행 계획으로 옮기면 이렇습니다. 처음 30일 안에 후보 업무 세 개를 골라 다섯 칸 분류표를 채우고, 그중 읽기 전용으로 시작할 수 있는 업무 하나를 정해야 합니다. 다음 60일 동안은 그 업무에 단일 AI 에이전트를 붙여 처리 시간, 정확도, 사람 검토 비율을 측정합니다. 90일 시점에는 측정 결과를 보고 쓰기 권한을 열지, 다른 업무로 넓힐지, 멀티 에이전트가 필요한지를 결정해야 합니다. 이 90일 동안 모은 숫자가 다음 투자를 설득하는 가장 강한 근거가 됩니다.

MSAP.ai가 여러 종류의 에이전트를 운영하는 방식

조직 안에 AI 에이전트가 늘어나면 종류가 섞이기 마련입니다. 상담팀은 상담 에이전트를, 개발팀은 코딩 에이전트를, 운영팀은 장애 분석 에이전트를 따로 만들다 보면, 모델 키 관리와 권한, 비용, 실행 기록이 팀마다 흩어집니다. 에이전트의 종류가 다양해질수록 공통 운영 기반이 더 중요해집니다.

MSAP.ai는 이 문제를 플랫폼으로 풉니다. AI Agent Studio(AAS)는 업무 전문가가 직접 에이전트를 만들고 쓰는 콘솔로, 워크플로형부터 도구를 호출하는 에이전트까지 여러 종류를 한곳에서 운영하도록 돕습니다. 모델 호출은 게이트웨이를 거쳐 비용과 권한을 한 번에 관리하고, 사내 시스템은 MCP 같은 표준 방식으로 연결합니다. 모든 구성 요소를 쿠버네티스 위에 사내 설치형으로 올릴 수 있어, 데이터를 밖으로 보내지 않아야 하는 공공·금융·제조 기업도 같은 구조를 쓸 수 있습니다.

에이전트 도입이 시험 단계에서 멈추는 흔한 원인은 업무를 아는 사람과 에이전트를 설정할 수 있는 사람이 다르다는 점입니다. 영업 담당자는 명함을 어디에 등록하고 중복을 어떻게 걸러야 하는지 알지만, 설정 파일과 명령줄은 IT 부서에 맡겨야 합니다. AAS는 부서 담당자가 이해하는 말로 에이전트를 정의하게 하고, 부서장, IT·플랫폼 관리자, 보안·감사 담당에게는 같은 데이터를 역할에 맞는 화면으로 보여 줍니다. 여러 종류의 AI 에이전트가 늘어나도 누가 무엇을 맡겼고 에이전트가 무엇에 접근하는지를 한곳에서 확인할 수 있습니다.

노코드 빌더로 첫 에이전트를 만들어 보고 싶다면 Flowise 기초 — 핵심 14개 노드로 AI Agent 구축하기에서 시작할 수 있고, 빌더 선택이 고민이라면 AI Agent 빌더 4종 비교가 도움이 됩니다. 어떤 종류의 에이전트로 시작하든, 나중에 종류를 늘릴 수 있는 운영 기반을 처음부터 함께 설계해야 합니다.

핵심 정리

  • AI 에이전트 종류는 하나의 기준으로 나뉘지 않습니다. 판단 방식, 자율성, 구조, 업무 역할, 배포 방식의 다섯 축을 함께 봐야 합니다.
  • 교과서의 다섯 유형은 단순 반사형, 모델 기반 반사형, 목표 기반, 효용 기반, 학습형이며, 실제 시스템은 여러 유형의 성질을 겹쳐 가집니다.
  • 오늘날 기업이 말하는 에이전트는 대부분 LLM을 두뇌로 쓰는 목표 기반 에이전트이고, 모델, 도구, 지침으로 구성됩니다.
  • 자율성은 단순 처리기, 라우터, 도구 호출, 다단계 에이전트, 멀티 에이전트 순으로 높아지며, 흐름을 미리 그릴 수 있다면 워크플로형이 더 싸고 안정적입니다.
  • 구조는 단일 에이전트로 시작하고, 지침과 도구가 감당하기 어려워질 때 멀티 에이전트나 계층형으로 넓힙니다.
  • 챗봇과 RPA에 이름만 붙인 에이전트 워싱을 가려내고, 읽기 전용에서 시작해 쓰기와 실행 권한을 단계적으로 늘리는 순서를 지켜야 합니다.
  • 인공지능의 전체 그림은 AI란 무엇인가에서, 에이전트의 정의와 구조는 AI Agent란 무엇인가에서 이어서 볼 수 있습니다.

자주 묻는 질문

AI 에이전트 종류는 몇 가지인가요?

교과서 기준으로는 단순 반사형, 모델 기반 반사형, 목표 기반, 효용 기반, 학습형의 다섯 가지입니다. 실무에서는 여기에 자율성 수준, 단일·멀티·계층형 구조, 업무 역할, 배포 방식이라는 기준을 더해 나누므로, 글마다 종류의 수가 다르게 보일 수 있습니다.

반사형 에이전트와 목표 기반 에이전트는 무엇이 다른가요?

반사형 에이전트는 조건이 맞으면 정해진 행동을 실행하는 규칙형이고, 목표 기반 에이전트는 도달해야 할 상태를 알고 그에 맞는 행동 순서를 스스로 계획합니다. 반사형은 빠르고 예측 가능하며, 목표 기반은 새로운 상황에 유연하지만 실행 경로를 추적하는 장치가 필요합니다.

LLM 기반 에이전트는 다섯 유형 중 어디에 속하나요?

대부분 목표 기반 에이전트에 속합니다. 언어 모델이 목표를 받아 계획을 세우고 도구를 호출하기 때문입니다. 다만 모델 라우팅은 효용 기반, 대화 상태를 기억하는 상담 흐름은 모델 기반 반사형, 피드백을 메모리에 쌓는 구조는 학습형의 성질을 함께 가집니다.

멀티 에이전트는 언제 필요한가요?

전문 영역이 뚜렷이 나뉘고, 하나의 에이전트에 지침과 도구를 몰아넣었더니 판단이 흔들리거나 도구를 자주 잘못 고를 때 필요합니다. 그런 신호가 없다면 단일 에이전트에 도구를 하나씩 더하는 편이 평가와 운영이 쉽습니다.

AI 에이전트와 챗봇, RPA는 어떻게 구분하나요?

챗봇은 질문에 답하는 시스템이고, RPA는 사람이 정한 화면 조작을 반복하는 시스템입니다. AI 에이전트는 목표를 받아 상황에 따라 무엇을 할지 스스로 정하고 시스템에 행동을 남깁니다. 이름만 에이전트로 바꾼 챗봇이나 RPA가 있으니 시연으로 판단 능력을 확인하는 것이 좋습니다.

처음 도입할 때는 어떤 종류의 AI 에이전트가 좋나요?

업무 흐름을 미리 그릴 수 있는 워크플로형이나 도구 호출 단계의 단일 에이전트로, 읽기 전용 권한부터 시작하는 것이 좋습니다. 문서 요약, 규정 검색, 장애 원인 조회처럼 결과를 사람이 검토하는 업무가 첫 대상으로 알맞습니다.

공공기관이나 금융사도 자율형 에이전트를 쓸 수 있나요?

쓸 수 있습니다. 모델과 에이전트 실행 환경, 도구 연결 서버를 내부망에 사내 설치형으로 두고, 기록 수정이나 외부 발송 같은 행동에는 사람 승인을 거치게 하면 됩니다. 실행 기록을 남겨 감사에 대응할 수 있게 설계하는 것이 전제입니다.

AI 를 처음부터 정리하려면

AI란 무엇인가? 인공지능 뜻·원리·종류와 기업 도입

다음 단계

우리 조직의 업무에 맞는 AI 에이전트 종류를 고르고, 데이터를 밖으로 보내지 않고 여러 에이전트를 함께 운영하는 구조를 따져 보려면 아래에서 시작하시기 바랍니다. 인공지능 전반의 개념은 AI란 무엇인가에서 먼저 확인할 수 있습니다.

Share This Story, Choose Your Platform!

Go to Top