MSAP.ai 블로그

MSAP.ai 블로그에서 최신 정보와 유용한 팁을 만나보세요. 다양한 콘텐츠와 전문 지식을 통해 더 나은 경험을 제공합니다.

목차 (Agenda)

AI 도입,Whitepaper,엔터프라이즈 AI

OpsKnow Repo — AI 시대 Infra 운영을 위한 지식 저장소

2025년을 기점으로 운영팀이 사내 LLM을 도입하면서, 같은 장애에 사람과 AI가 다른 답을 내놓는 의사결정 표류가 잦아지고 있습니다(백서 §1.2.1). 원인은 둘이 같은 자료를 보지 않기 때문이며, IT 의사결정권자는 도입 전 ROI와 데이터 주권을 먼저 점검해야 합니다.

2026년 06월 03일

AI 운영 지식 저장소

왜 지금 이 결정을 미룰 수 없는가?

사내 GPU 1~2장으로 14B급 모델을 직접 구동하는 패턴이 표준이 되면서, 운영 지식의 1차 독자가 사람과 AI 둘로 늘었습니다(백서 §1.2.1). 그래서 우리 조직은 사내 문서 중 AI가 즉시 읽는 평문(.md) 비율을 먼저 점검해야 합니다. 같은 런북을 마크다운(MD, 사람·AI 모두 손실 없이 읽는 평문)으로 둔 팀과 위키 전용 포맷으로 둔 팀은 AI가 처리하는 입력 토큰 소비가 1.0배 대 1.5~2.0배로 갈립니다(백서 §1.2.2).

MSAP.ai 백서 구독하기🔔

새로운 백서 소식을 가장 먼저 만나보세요!

MSAP.ai 가 전하는 AI 기반 운영 인사이트와 최신 백서 소식을 가장 빠르게 받아보실 수 있습니다.

구독해 주시면 더 좋은 콘텐츠로 보답하겠습니다.🙏

표면은 지식 분산인데, 진짜 문제는 무엇인가?

근본 문제는 “문서가 흩어져 있다”가 아니라 “사람과 AI가 다른 데이터 소스를 본다”는 데 있습니다. RAG(검색 보강 생성, AI가 답하기 전에 사내 문서를 먼저 검색해 근거로 쓰는 방식) 도구가 6개월 전 위키를 보고 사람은 어제 런북을 보면 결론이 갈립니다(백서 §1.2.3). 또 핵심 운영자 한 명이 자리를 비우면 평균 복구 시간(MTTR)이 평소의 2~4배까지 늘 수 있습니다(백서 §1.1.3).

같은 책장을 만들면 무엇이 달라지는가?

해법은 MD를 기본 단위로 두고 사람과 AI가 같은 디렉터리를 함께 편집하며, 그 디렉터리가 곧 사내 Local LLM(사내 GPU에서 직접 구동하는 대규모 언어 모델)의 검색 소스가 되는 AI 운영 지식 저장소입니다(백서 §1.4.1). 외부 LLM 호출 0건이 로그로 검증되어 금융·공공·의료 규제와 정합합니다(백서 §1.4.2).

항목 도입 전 도입 후
사후 보고서 작성 직접 90~150분 검토·승인 12분 (백서 §8.1.4)
사람·AI 근거 서로 다른 저장소 같은 디렉터리 (백서 §1.2.3)
외부 호출 입증 불가 0건 로그 검증 (백서 §1.4.2)

도입 효과 — 무엇이 얼마나 줄어드나?

이 저장소의 효과는 사람이 새로 쓸 일을 줄이는 데서 나옵니다. 사후 보고서 한 건이 직접 작성 90~150분에서 검토 12분으로 압축되어, 운영자 5명이 분기당 12건을 다루면 분기당 약 78~108시간이 절감됩니다(백서 §8.1.4). 도입 비용 회수는 약 6~18개월로 추정되며, 기존 SaaS 위키 라이선스 회피만으로도 12개월 내 손익분기가 가능한 경우가 많습니다(백서 §9.1.2).

우리 기관은 무엇부터 결정해야 하는가?

  • [ ] 30일: 가장 익숙한 시스템 1개를 첫 이식 대상으로 선정합니다(백서 §9.2).
  • [ ] 30일: 검증 기준 5개(보고서 24시간 내 머지율 ≥80%, 런북 최신성 ≤6개월, AI 인용율 ≥95% 등)를 확정합니다(백서 §9.1.1).
  • [ ] 60일: 사내 GPU(24GB 1장)를 확보하고 Local LLM·검색 인덱스를 구축합니다(백서 §7.1.2).
  • [ ] 60일: 인시던트 자동 보존부터 사람 승인 머지까지 학습 순환을 1회 완주합니다(백서 §7.1.3).
  • [ ] 90일: 손익분기를 자체 산정하고 확산 전략을 결정합니다(백서 §9.1.2).

도입 전 자주 묻는 질문 — 체크리스트

Q. AI 운영 지식 저장소란 무엇인가요?
MD를 기본 단위로 사람과 AI가 같은 디렉터리를 함께 편집하는 저장소로, 그 디렉터리가 사내 Local LLM의 검색 소스가 됩니다(백서 §1.4.1).

Q. 외부로 데이터가 나가지 않음을 어떻게 증명하나요?
사내 GPU 구동 LLM은 외부 호출 0건을 로그로 입증할 수 있어 금융·공공·의료 규제와 정합합니다(백서 §1.4.2).

Q. 처음부터 전사로 도입해야 하나요?
아닙니다. 단일 시스템을 6주 안에 검증하는 PoC(개념 검증)가 가장 작은 도입 단위이며, 확장은 같은 패턴의 반복입니다(백서 §7.1).

문의

Go to Top