쿠버네티스 DRA 도입 기준 — GPU 병목을 푸는 속성 기반 할당
GPU를 몇 개 달라고 세던 방식이 쿠버네티스 v1.34에서 끝났다. DRA는 장치 속성을 스케줄러가 직접 읽게 하고, 공유 방식과 연결 조건을 요청 단위로 고르게 한다.
LLM 도입이 실패하는 이유는 GPU가 부족해서가 아니다
LLM은 구글의 2017년 Transformer 논문에서 출발해 다음 단어를 확률적으로 예측하는 대규모 언어 모델입니다.
공공기관 AI, 왜 온프레미스여야 하는가 — 공공 AI 플랫폼 도입 가이드
SaaS를 쓸 수 없는 이유: SaaS와 온프레미스의 데이터 경로를 7단계와 3단계로 비교하고, 개보법·국정원·N²SF·EU AI Act의 4중 통제선이 어떻게 SaaS를 동시에 차단하는지 짚습니다.
우리 회사의 AI 성숙도는? GPU가 몇 장이 아닌 MCP 수가 중요한 이유
본 백서는 AI 도입을 둘러싼 현재의 산업 분위기를 정교하게 분석하는 것으로 시작합니다.
GPU 활용률 높이는 법 — LPM(LLM Performance Management)
생성형 AI, 특히 거대 언어 모델(LLM)이 실험을 넘어 실제 서비스로 빠르게 편입되면서, 기업의 운영 현장은 새로운 복잡성과 마주하고 있습니다.
Gemma란? 구글의 경량 LLM, GPU를 덜 쓰는 이유
GEMMA(젬마)는 구글 딥마인드(Google DeepMind)가 개발한 최신의 대규모 AI 언어 모델 시리즈입니다.
NPU가 NVIDIA GPU를 넘어설 수 있을까?
AI 가속기라는 표현은 본래 더 포괄적인 개념입니다.
AI 가속기란 무엇인가? GPU, NPU, TPU 대세는?
AI 가속기라는 개념은, 인공지능 모델, 특히 딥러닝 모델의 학습이나 추론 과정에서 필요한 대규모 수치 연산을 더 빠르고 효율적으로 처리하기 위한 하드웨어 장치를 의미합니다.
