LLM은 구글의 2017년 Transformer 논문에서 출발해 다음 단어를 확률적으로 예측하는 대규모 언어 모델입니다.
챗봇과 에이전트를 가르는 선은 화면이 아니라 실행 방식에 있습니다.
표준운영절차는 절차마다 증적 문서를 지정하고, 예방점검체계는 항목마다 주기를 정합니다.
아래 영상이 이 글에서 짚는 네 구간을 실제 운영 화면으로 담은 2편 전체입니다.
AX 전략의 출발점은 기술 선택이 아니라 비즈니스 목표와 AI 유스케이스의 매핑입니다.
두 계열의 차이는 한 문장으로 요약됩니다.
DX는 종이·수작업·단절된 시스템으로 돌아가던 업무를 디지털 프로세스와 데이터 기반으로 바꾸는 전환입니다.
AX는 AI를 조직의 업무 프로세스·의사결정·사업 모델에 구조적으로 통합해 기업의 일하는 방식 자체를 바꾸는 전환을 뜻합니다.
클라우드 네이티브는 위치가 아니라 불변 이미지·선언적 배포·자동 오케스트레이션이라는 방식의 문제이며, 온프레미스에서도 구현할 수 있습니다.
순정 추론 코드를 그대로 프로덕션에 올리면 GPU 메모리가 빨리 차 OOM이 나고 사용률 그래프에 골짜기가 생깁니다(백서 §1장). 같은 카드로 받는 동시 요청 수가 줄고 대기 시간이 늘어납니다.