🗂️전체 발표자료(PDF)를 다운로드 받고싶으시다면 아래 설문을 제출해주세요!

생성형 AI에 대한 논의가 빠르게 바뀌고 있습니다. 질문에 답하는 챗봇 수준을 넘어, 이제는 기업 데이터를 활용해 스스로 판단하고 작업을 실행하는 AI 에이전트가 화두입니다. 하지만 정작 현장에서는 “우리 조직은 지금 어느 단계에 있고, 다음으로 무엇을 준비해야 하는가”라는 질문에 답하기가 쉽지 않습니다.

이 자료는 발표 자료 생성형 AI를 통한 IT 혁신의 도입 파트를 정리한 것입니다. 생성 AI(LLM)에서 RAG, AI Agent, 그리고 Agentic AI로 이어지는 진화의 4단계를 한 흐름으로 보여주고, 이를 이해하는 데 필요한 Context Window 개념과 AI 에이전트의 실제 아키텍처, 그리고 도입을 가로막는 데이터 문제까지 함께 다룹니다.

특히 이 자료는 기술 자랑에 그치지 않고, 에이전트 도입이 왜 모델이 아니라 흩어진 데이터에서 막히는지, 그리고 통합 데이터 플랫폼(AI-Ready)이 왜 전제가 되는지를 14장에 걸쳐 설명합니다. 생성형 AI 혁신 시리즈의 1편에 해당하는 도입 자료입니다.

지금 바로 [생성형 AI를 통한 IT 혁신 — 도입편]을 통해 생성형 AI가 에이전트로 진화하는 전체 그림과 도입의 핵심 조건을 확인하십시오.

이 도입 파트는 총 14장으로 구성되며, 개념 이해에서 아키텍처, 도입 과제, 배경 기술까지 네 흐름으로 나눠 볼 수 있습니다.

Part 1. 진화의 4단계 — LLM에서 RAG, AI Agent, Agentic AI까지 (Slide 3~4)

Part 2. 실제 아키텍처 — PraaS, RAG 마이크로서비스, 에이전트 5계층 (Slide 5~7)

Part 3. 도입의 병목 — 분산 데이터 문제와 통합 데이터 플랫폼 (Slide 8~11)

Part 4. 배경 기술 — AI 워크로드와 클라우드 네이티브, 패러다임 이동 (Slide 12~14)

이 자료 전체를 한 장으로 요약하는 장표입니다. 학습한 지식으로 문장을 생성하는 생성 AI(LLM), 외부 데이터를 참조해 환각을 줄이는 RAG, 스스로 판단해 도구와 API를 실행하는 AI Agent, 그리고 큰 작업을 나눠 여러 에이전트가 협력하는 Agentic AI로 이어집니다. 우리 조직이 지금 어느 단계에 있고 다음이 무엇인지 가늠하는 기준선이 됩니다.

프롬프트와 외부 참조 정보, 그리고 응답이 모두 하나의 창 안에 들어와야 처리된다는 개념을 정리했습니다. 창의 크기가 곧 LLM의 시야이며, GPT-4o는 128K, Claude 3.5는 200K 토큰으로 모델마다 다릅니다. 왜 문서를 잘게 나누고 검색해서 넣어야 하는지, RAG가 왜 필요한지를 이해하는 기초가 됩니다.

AI 에이전트는 모델 하나가 아니라 인터페이스, 모델, 에이전트, 도구(MCP), 데이터의 다섯 계층이 맞물린 구조라는 점을 보여줍니다. 특히 도구·MCP 계층이 모델과 실제 사내 데이터를 잇는 접점이라는 사실이, 뒤이어 나오는 데이터 플랫폼 논의로 자연스럽게 이어집니다.

데이터 소스가 여러 종으로 흩어져 있을 때, 도구를 소스마다 1:1로 붙이면 연결 수가 선형으로 늘고 실행 시간과 오답 확률이 함께 커진다는 구조를 시각적으로 설명합니다. 에이전트 도입이 왜 기술이 아니라 데이터에서 막히는지 보여 주는, 공감도가 높은 장표입니다.

앞의 문제를 어떻게 푸는지 문제와 해결을 나란히 놓은 장표입니다. 분산된 소스마다 개별 접근하던 방식을 단일 데이터 액세스 레이어로 모으면, 소스가 늘어도 구현량이 유지되고 접근 제어와 감사 로그를 한 곳에서 일괄 처리할 수 있습니다. 이 도입 파트 전체의 결론에 해당합니다.

같은 업무라도 처리 방식이 근본적으로 달라집니다. 하드코딩된 규칙에 의존하던 방식과, 에이전트가 자율적으로 프로세스를 실행하는 방식의 차이를 핵심만 정리했습니다.

생성형 AI를 도입해 보려 했지만 어디서부터 시작해야 할지, 무엇이 발목을 잡는지 감이 잡히지 않으셨다면 이 자료가 도움이 됩니다.

LLM, RAG, 에이전트라는 용어는 들었지만 그 차이와 순서가 헷갈리는 실무자 — 진화 4단계로 한 번에 정리할 수 있습니다.

AI 에이전트 도입을 검토 중인 기획·개발 담당자 — 도입이 왜 데이터에서 막히는지와 그 해법을 미리 파악할 수 있습니다.

사내 데이터가 여러 시스템에 흩어져 있는 조직의 IT·데이터 담당자 — 통합 데이터 플랫폼이 왜 전제가 되는지 근거를 얻을 수 있습니다.

이 자료에서 가장 주목할 지점은 진화의 방향이 결국 하나로 모인다는 사실입니다. 응답 생성에서 지식 보강, 도구 실행, 자율 협업으로 나아갈수록 성패는 모델 성능이 아니라 데이터 근거와 도구 연결에서 갈립니다.

처음 읽으신다면 진화 4단계(Slide 3)로 큰 그림을 잡은 뒤, 분산 데이터 문제(Slide 9)와 통합 데이터 플랫폼(Slide 10)을 이어 보시길 권합니다. 개념에서 병목, 해법으로 이어지는 자료의 논리가 가장 선명하게 드러나는 순서입니다.

에이전트가 화두인 지금, 도입을 서두르기 전에 그 전제부터 점검해야 하는 시점입니다. 기술은 준비되어 있어도 흩어진 데이터가 발목을 잡는 경우가 많기 때문입니다.

전체 흐름과 도식을 한 번에 확인하시려면 지금 바로 [생성형 AI를 통한 IT 혁신 — 도입편] 전체 자료를 다운로드해 살펴보십시오.

RAG란 무엇인가 — 검색으로 환각을 줄이는 생성형 AI 설계
MCP와 AI 에이전트 — 모델과 사내 데이터를 잇는 도구 계층 이해하기