LLM은 구글의 2017년 Transformer 논문에서 출발해 다음 단어를 확률적으로 예측하는 대규모 언어 모델입니다.
쿠버네티스에서 애플리케이션은 수백 개의 Pod로 분산되고, 각 Pod는 수개의 컨테이너로 구성됩니다.
Active-Active(모든 사이트가 동시에 트래픽을 처리하는 구성)가 짧은 RTO를 얻는 대가는 데이터 계층의 복잡도입니다.
쿠버네티스(Kubernetes)에서 노드는 클러스터를 구성하는 개별 머신입니다.
시스템을 여러 개의 마이크로서비스로 나누면서 배포 속도는 빨라졌지만, 하나의 요청이 어느 서비스에서 지연되는지, 어떤 서비스가 어떤 서비스를 호출하는지를 외부에서 추적하기는 더 어려워졌습니다.
IT 인프라를 현대화해야 할 필요성은 점점 커지고 있습니다.
옵저버빌리티(Observability) 도구는 쿠버네티스(Kubernetes)와 마이크로서비스(MSA) 운영에 필수입니다.
쿠버네티스(Kubernetes)를 운영하면서 가장 곤란한 순간 중 하나는 파드(Pod)의 재시작 카운트가 슬그머니 올라가 있을 때입니다.
쿠버네티스(Kubernetes)를 운영하다 보면 시크릿(Secret) 한 줄을 확인하기 위해 의외로 많은 시간을 씁니다.






