AX 추진 전략과 로드맵 — 진단부터 전사 확산까지 단계별 가이드
AX 전략의 출발점은 기술 선택이 아니라 비즈니스 목표와 AI 유스케이스의 매핑입니다.
AX 전략의 출발점은 기술 선택이 아니라 비즈니스 목표와 AI 유스케이스의 매핑입니다.
두 계열의 차이는 한 문장으로 요약됩니다.
챗봇(Chatbot)은 입력된 질문에 대해 미리 준비된 방식으로 답변을 돌려주는 대화형 소프트웨어입니다.
LLM(Large Language Model, 대규모 언어 모델)은 방대한 텍스트 데이터로 사전 학습되어 언어를 이해하고 생성하는 딥러닝 모델입니다.
AX는 AI를 조직의 업무 프로세스·의사결정·사업 모델에 구조적으로 통합해 기업의 일하는 방식 자체를 바꾸는 전환을 뜻합니다.
순정 추론 코드를 그대로 프로덕션에 올리면 GPU 메모리가 빨리 차 OOM이 나고 사용률 그래프에 골짜기가 생깁니다(백서 §1장). 같은 카드로 받는 동시 요청 수가 줄고 대기 시간이 늘어납니다.
LLM 애플리케이션을 만들 때 우리는 흔히 LangChain·LangGraph·CrewAI 같은 코드 프레임워크부터 떠올립니다.
백서는 적용 강도를 4계층으로 정리합니다(백서 §1.2.1).
대규모 조직이 AI 기반 자동화 시스템을 도입할 때 가장 먼저 마주하는 현실은 PoC(개념 검증) 이후 실제 서비스로의 확산이 쉽지 않다는 점입니다.
최근 IT 인프라 환경은 복잡성과 규모가 급격히 증가함에 따라 기존의 단순 모니터링 방식만으로는 장애 탐지와 문제 해결, 서비스 연속성 확보에 한계가 명확하게 드러나고 있습니다.