챗봇과 에이전트를 가르는 선은 화면이 아니라 실행 방식에 있습니다.

멀티 에이전트 시스템은 각자 독립된 판단 루프를 가진 에이전트 여러 개가 공동의 목표를 향해 협업하는 아키텍처입니다.

RAG는 외부 지식 저장소에서 질문과 관련된 문서를 검색해, 그 내용을 근거로 LLM이 답변을 생성(generation)하게 하는 기법입니다.

두 계열의 차이는 한 문장으로 요약됩니다.

챗봇(Chatbot)은 입력된 질문에 대해 미리 준비된 방식으로 답변을 돌려주는 대화형 소프트웨어입니다.

AX는 AI를 조직의 업무 프로세스·의사결정·사업 모델에 구조적으로 통합해 기업의 일하는 방식 자체를 바꾸는 전환을 뜻합니다.

AI 도입은 이미 실험 단계를 지났습니다.

순정 추론 코드를 그대로 프로덕션에 올리면 GPU 메모리가 빨리 차 OOM이 나고 사용률 그래프에 골짜기가 생깁니다(백서 §1장). 같은 카드로 받는 동시 요청 수가 줄고 대기 시간이 늘어납니다.

상용 프론티어와의 성능 격차가 좁혀지며 저울추가 이동했습니다.

AI 시스템과 자동화 파이프라인이 비즈니스 전반에 확산되면서, 검색 인프라에 대한 요구 조건 또한 크게 변화하고 있습니다.