LLM은 구글의 2017년 Transformer 논문에서 출발해 다음 단어를 확률적으로 예측하는 대규모 언어 모델입니다.

AIOps(Artificial Intelligence for IT Operations, 인공지능을 활용한 IT 운영)는 2016년 가트너(Gartner)가 제창한 개념입니다.

아래 영상이 이 글에서 짚는 네 구간을 실제 운영 화면으로 담은 2편 전체입니다.

쿠버네티스(Kubernetes)에서 노드는 클러스터를 구성하는 개별 머신입니다.

젠킨스(Jenkins)는 코드를 받아 빌드하고, 테스트하고, 배포하는 과정을 자동화하는 CI/CD의 표준 도구입니다.

사내 GPU 1~2장으로 14B급 모델을 직접 구동하는 패턴이 표준이 되면서, 운영 지식의 1차 독자가 사람과 AI 둘로 늘었습니다

최근 IT 인프라 환경은 복잡성과 규모가 급격히 증가함에 따라 기존의 단순 모니터링 방식만으로는 장애 탐지와 문제 해결, 서비스 연속성 확보에 한계가 명확하게 드러나고 있습니다.

옵저버빌리티(Observability) 도구는 쿠버네티스(Kubernetes)와 마이크로서비스(MSA) 운영에 필수입니다.

쿠버네티스(Kubernetes)를 운영하면서 가장 곤란한 순간 중 하나는 파드(Pod)의 재시작 카운트가 슬그머니 올라가 있을 때입니다.

공공기관 및 대규모 조직의 IT 인프라는 점점 더 복잡해지고 있습니다.