LLM 도입이 실패하는 이유는 GPU가 부족해서가 아니다
LLM은 구글의 2017년 Transformer 논문에서 출발해 다음 단어를 확률적으로 예측하는 대규모 언어 모델입니다.
LLM은 구글의 2017년 Transformer 논문에서 출발해 다음 단어를 확률적으로 예측하는 대규모 언어 모델입니다.
표준운영절차는 절차마다 증적 문서를 지정하고, 예방점검체계는 항목마다 주기를 정합니다.
RAG는 외부 지식 저장소에서 질문과 관련된 문서를 검색해, 그 내용을 근거로 LLM이 답변을 생성(generation)하게 하는 기법입니다.
이 도입 파트는 총 14장으로 구성되며, 개념 이해에서 아키텍처, 도입 과제, 배경 기술까지 네 흐름으로 나눠 볼 수 있습니다.
DX는 종이·수작업·단절된 시스템으로 돌아가던 업무를 디지털 프로세스와 데이터 기반으로 바꾸는 전환입니다.
챗봇(Chatbot)은 입력된 질문에 대해 미리 준비된 방식으로 답변을 돌려주는 대화형 소프트웨어입니다.
LLM(Large Language Model, 대규모 언어 모델)은 방대한 텍스트 데이터로 사전 학습되어 언어를 이해하고 생성하는 딥러닝 모델입니다.
AI 에이전트(AI Agent)는 대규모 언어 모델(LLM, Large Language Model)을 두뇌로 삼아, 주어진 목표를 달성하기 위해 스스로 계획을 세우고(Planning) 외부 도구를 호출해(Tool Use) 여러 단계를 실행하는 소프트웨어 시스템입니다.
AI 도입은 이미 실험 단계를 지났습니다.
상용 프론티어와의 성능 격차가 좁혀지며 저울추가 이동했습니다.