MSA 환경에서 Observability의 필요성과 SRE의 핵심 요소를 설명하고, 이를 효과적으로 구현하는 방법을 제시합니다.

최근 인공지능(AI) 기술의 발전은 실로 눈부시며, 이제는 우리 삶의 거의 모든 영역에서 AI가 활약하고 있다고 해도 과언이 아닙니다.

대규모 언어 모델(LLM)인 ChatGPT와 같은 AI 시스템을 사용할 때, 원하는 결과를 얻기 위해서는 프롬프트 엔지니어링 기술이 중요합니다.

Open WebUI는 대규모 언어 모델(LLM)과의 상호작용을 위한 확장 가능하고 사용자 친화적인 오픈 소스 플랫폼으로, 완전히 오프라인 환경에서도 작동하도록 설계되었습니다.

공개 LLM(Large Language Model)은 대규모 언어 모델의 소스 코드와 가중치가 공개되어 있어 누구나 접근하고 수정할 수 있는 인공지능 모델을 의미합니다.

MSA 환경에서 Observability의 필요성과 SRE(Site Reliability Engineering)의 주요 요소, 그리고 이를 효과적으로 구현하기 위한 방법들을 설명합니다.

MSA(Micro Services Architecture) 환경에서 애플리케이션을 효율적으로 모니터링하고 관리하는 방법을 다룹니다.

MSA에 적용되는 패턴이 데이터 일관성 유지, 서비스 간 통신, 공통 기능 처리, 시스템 관리, 애플리케이션 회복력, 읽기/쓰기 성능 및 확장성 등의 문제 해결에 어떻게 기여하는지 설명합니다.

MSA 전환을 통해 얻을 수 있는 유지보수성 향상, 개발 속도 개선, 기술 스택 다양화, 스케일링 효율화, 신뢰성 향상, 시장 변화 대응력 향상 등의 이점을 설명합니다.

이번 사례집은 과학기술정보통신부와 정보통신산업진흥원이 한국의 AI 산업 혁신과 인류의 지속가능한 발전을 지원하기 위한 목적으로 제작되었습니다.