Blog

2025년, 디지털플랫폼정부는 공공부문 AI 도입의 대전환기를 맞고 있습니다. 전 세계가 생성형 AI와 초거대 언어모델(LLM)의 가능성을 현실화하고 있는 가운데, 한국 정부도 이에 대응하는 ‘공공부문 초거대 AI 도입·활용 가이드라인 2.0’ 발표했습니다.

이번 가이드라인은 단순한 기술 도입을 넘어, 행정 전반의 혁신, 국민 체감 서비스 개선, 사회문제 해결이라는 목표를 내포하고 있으며, 공공기관의 AI 도입을 현실적인 절차와 기준으로 안내합니다. 더 이상 ‘도입할까 말까’의 문제가 아니라, ‘어떻게 도입할 것인가’가 핵심인 시대입니다.

이미 ‘국가인공지능위원회’는 2030년까지 공공부문 AI 도입률 95% 달성을 목표로 제시했으며, 이는 공공 AI가 선택이 아닌 필수가 되었음을 시사합니다.

2025년 4월, 디지털플랫폼정부위원회는 전 공공기관이 참고할 수 있는 실무형 가이드라인을 공개했습니다.

주요 변화는 다음과 같습니다.

• 도입 원칙과 윤리 기준 강화: 기술 도입뿐 아니라 윤리와 보안, 조직 문화 혁신을 필수로 명시
• 초거대 AI의 4단계 학습 과정 설명: 파운데이션 모델 → 사후학습 → 파인튜닝 → RAG 기반까지
• 도입 절차와 체크리스트 제공: 도입 목적 설정부터 보안 등급 분류, 클라우드 구성, 성과관리까지 체계화
• 공공AI 3대 전략목표 제시: 대국민 서비스 혁신, 사회문제 해결, 업무 효율화
• 110개 이상 활용 사례 정리: 부처, 지자체, 공공기관 중심의 도입 실증 과제 포함

이제 공공기관은 막연한 AI 도입이 아니라, 단계별 로드맵과 사전 고려사항을 통해 현실적인 실행 전략을 세울 수 있게 되었습니다.

🗂️ 아래 설문 제출 후 “공공부문 초거대 AI 도입・활용 가이드라인 2.0” 자료 다운로드받으세요!

정부는 공공 AI 도입을 통해 국민 삶의 질 향상과 직결되는 체감 성과를 창출하고자 다음과 같은 3대 전략목표를 제시했습니다.

• 별도 학습 없이 예시만으로 대응 가능한 범용성
• RAG(검색증강생성)을 활용해 최신 정책과 내부 데이터를 기반으로 답변 가능
• GPU 등 고성능 연산 자원을 클라우드로 대체 가능
• 윤리적, 정책적 기준을 적용한 안전한 활용 가능

이러한 초거대 AI의 하위 개념으로 초거대 언어 모델(LLM, Large Language Model)이 있으며, 이는 초거대 규모로 자연어를 학습시킨 인공지능 언어 모델입니다.

최근에는 텍스트뿐 아니라 이미지, 음성 등 다양한 정보를 통합적으로 처리하는 멀티모달(Multimodal) AI와 스스로 업무를 수행하는 AI 에이전트(AI Agent) 기술도 빠르게 발전하고 있습니다.

초거대 AI는 기존 인공지능(AI)보다 훨씬 방대한 양의 데이터를 이용해 수천억에서 수조 개 이상의 매개변수(Parameter)를 가진 대규모 모델을 의미합니다. 대규모 인공신경망 알고리즘을 활용하여 높은 수준의 추론과 이해 능력을 보여주죠.

자연어 처리, 이미지·음성 인식, 코드 생성, 요약 등 다양한 업무에 대응할 수 있는 다기능 모델이며, 특히 공공에서는 다음과 같은 장점을 가집니다.

1. 대국민 서비스 혁신AI를 통해 초개인화되고 장애 없는 대국민 서비스를 확대합니다.
   예: 주민등록 등본 발급 안내, 관광 정보 제공
2. 사회문제 해결AI를 활용한 데이터 분석과 실시간 대응 역량 강화로 복잡하고 다양한 사회문제를 해결합니다.
   예: 응급실 과밀 해소, 맞춤형 복지 연계, 산사태 예측
3. 일하는 방식 효율화AI와의 협업을 통해 일상 업무를 효율화하고, 정책 지능 향상으로 최적의 의사결정을 지원합니다.
   예: 문서 자동 작성, 민원 녹취 요약, 규제 내비게이터

이러한 전략은 디지털플랫폼정부의 철학과 맞닿아 있으며, 단순히 기술 도입이 아닌 업무 혁신의 수단으로 AI를 바라보게 합니다.

공공AI는 상상 속의 기술이 아닙니다. 이미 다수의 기관이 다양한 과제에 도입을 완료하거나 진행 중입니다.

• 질의 응답형:
  • 국내: 건축행정 허가·신고 등 행정 단계에 필요한 건축 규정 및 상하위 법령 검색 서비스 (행정안전부, 국토교통부 등)
  • 해외 (싱가포르): 공무원용 챗봇 비서 ‘Pair’ – 아이디어 생성, 이메일 작성, 회의록 요약 등 지원. ’24년 2분기 기준 약 5만 명 공무원 활용.

• 분석·활용형:
  • 국내: 연구업무 지원을 위한 유사 연구 분석 (경제·인문사회연구회) – 기존 연구 데이터 분석 및 시각화

• 문서 작성형:
  • 국내: ‘최근 경제동향(그린북)’ 초안 작성 지원 (기획재정부) – 반복적 보고서 작성 업무 자동화

• 기획·창작형:
  • 국내: 키워드와 기획안 기반 신규 보고서 기획·창작 지원 (다양한 기관) – 행사 포스터, 홍보 문구 등 생성

• 상담 지원형:
  • 국내: 노동법 지식 상담·안내 AI 어시스턴트 (고용노동부) – 민간 플랫폼 활용
  • 해외 (영국): AI 비서 ‘Darcie’와 ‘Ali’ – 24시간 주민 전화상담, 고객 서비스 개선. ’23년 도입 후 첫해 50만 건 이상 전화 처리.

• 서비스 처리형 (외부 연계):
• • 국내: AI 발주지원 시스템 (조달청) – 조달요청부터 입찰공고까지 소요시간 단축
  • 해외 (영국): 정부 서비스 사용자 경험 개선을 위한 ‘GOV.UK Chat’ – GOV.UK 콘텐츠 기반 자연어 질의응답

이 외에도 각 부처 및 지자체에서는 복지, 의료, 안전, 환경 등 다양한 분야에서 초거대 AI를 활용한 서비스 개발 및 실증을 추진 중입니다.

초거대 AI 도입, 어디서부터 시작해야 할까요? 가이드라인은 다음과 같은 단계별 도입 절차와 고려사항을 제시합니다.

1. 초거대 AI 도입 결정 및 인프라 구축방법 결정:

• 대상 업무 현황, 목표, 문제점 분석
• 신기술 활용의 적합성 및 기대효과 검토
• 인프라 구축 방안 마련 (범정부 공통기반 활용, 자체 인프라, 민간 클라우드 등)

2. 도입 업무의 보안등급 검토 (데이터 보안 등급):

• 업무 중요도에 따라 기밀(Classified), 민감(Sensitive), 공개(Open) 3등급 분류
• 등급별 보안 정책 적용 (국가정보원 ‘국가 망 보안체계(N²SF) 보안 가이드라인‘ 참고)

3. 클라우드 서비스 구성 방안:

• 시스템 운영 영역 및 컴퓨팅 리소스 규모 선정
• 클라우드 도입 유형(퍼블릭, 프라이빗, 멀티) 및 자원 활용 방식 결정
• CSAP 인증 등 기반 벤더 선정

4. 데이터 학습 방식에 따른 LLM 유형 결정:

• 파운데이션 모델: 추가 학습 없이 범용 LLM 그대로 사용 (API 연결 등)
• 파인튜닝된 모델: 특정 작업/분야 데이터로 미세조정
• 사후학습된 모델: 최신성/전문성 위해 대량 데이터 추가 학습
• RAG(검색 증강 생성) 기반 모델: 외부 DB 검색으로 최신 정보 반영

5. 서비스 도입 방식 결정: 

• 디지털서비스 구매: 디지털서비스 전문계약제도 활용 (신속 도입)
• 조달 발주: 일반 경쟁입찰 (요구사항 맞춤 개발)

6. 유지보수 및 운영(Ops) 방식 검토:

• 데이터 관리, 모델 업데이트, 모니터링, 거버넌스 체계 마련
• 서비스 레벨 목표(SLO) 설정 (응답 시간, 가용성 등)

7. 성과 관리: 

• AI 과제 생애주기(초기–성숙)에 따른 성과지표(투입–과정–산출–결과) 설정 및 관리

가이드라인에서 각 단계별로 상세한 체크리스트도 제공되니, 실제 도입 시 꼼꼼히 확인하는 것이 중요합니다.

특히 기관 내 윤리 기준, 보안 규정, 조직 역량 확보 여부도 중요한 고려사항입니다.

공공 AI 시스템을 성공적으로 구축하고 운영하기 위해서는 유연하고 확장 가능한 IT 아키텍처가 필수적입니다. 특히, 다양한 AI 모델과 서비스를 연동하고 데이터를 효율적으로 관리하기 위해서는 마이크로서비스 아키텍처(MSA) 도입이 효과적인 대안이 될 수 있습니다.

공공 디지털 전환에서 마이크로서비스 아키텍처(MSA)는 클라우드 네이티브(Cloud Native)와 함께 중요한 핵심 기술이지만 도입이 복잡하고 어려운 실정입니다. 이런 상황에서 MSAP.ai는 MSA를 AI로 자동화된 프로세스로 설계·분석하고, 배포, 운영까지 이어주는 솔루션으로 주목받고 있습니다.

MSA는 AI 서비스가 유연하게 실행될 수 있는 인프라를 제공하기에 공공 AI 도입을 고민하는 기관이라면, MSA는 단순 선택이 아닌 필수 전략이 될 수 있습니다.

MSAP.ai 가 더 궁금하신 분들은 아래 링크를 통해 자세히 살펴보세요!

💬 MSAP.ai 제품에 대해 궁금하신 점이 많다면? 여기로 연락주세요!

E. hello@msap.ai | T. 02-6953-5427

성공적인 공공 AI 도입을 위해 기술적 측면만큼이나 조직의 준비가 중요하다고 강조합니다. 윤리, 보안, 데이터 품질, 사용자 교육, 인력 역량 등 조직의 준비도가 없으면 기술은 실패로 이어집니다.

정부는 이를 방지하기 위해 다음과 같은 원칙을 제시했습니다.

• 명확한 목표 설정: AI 도입을 통해 해결하고자 하는 문제와 기대 성과를 명확히 정의해야 합니다.
• 기술적 한계 인지: 생성형 AI의 편향, 오류(할루시네이션) 가능성을 인지하고 보완책을 마련해야 합니다.
• 윤리 및 보안: 민감정보 및 개인정보 보호, AI 윤리 기준 준수를 위한 기술적·제도적 장치가 필요합니다.
• 거버넌스 정립: 데이터 관리, 보안, 운영, 교육 등 명확한 역할과 책임을 부여하는 의사결정 체계를 확립해야 합니다.
• 조직 문화 혁신: AI 활용을 위한 조직 내 역량 강화와 함께, AI와 협업하는 업무 문화를 조성해야 합니다.

결국 공공 AI는 단순한 기술 도입이 아닌, 행정 프로세스와 조직 문화 전반의 혁신을 동반해야 그 효과를 극대화할 수 있습니다.

AI는 더 이상 선택의 문제가 아닙니다. 공공기관이 신뢰받고, 효율적이며, 국민에게 필요한 서비스를 제공하기 위해 공공 AI는 필수 인프라로 자리잡고 있습니다.

“공공부문 초거대 AI 도입·활용 가이드라인 2.0″은 공공 AI 시대를 맞이하는 우리에게 중요한 나침반이 될 것입니다.

이 가이드라인을 바탕으로 각 기관의 특성과 상황에 맞는 AI 도입 전략을 수립하고, 국민이 체감할 수 있는 서비스 혁신과 행정 효율성 향상을 이루어내기를 기대합니다.

• [디지털플랫폼정부위원회] 공공부문의 효과적이고 안전한 AI 도입‧활용 지원을 위한 범정부 가이드 배포
• [언론보도] 디지털 정부, 선언은 했는데… MSA 준비는 어디까지 왔나?
• [언론보도] MSA 도입만 하면 끝일까? 현실적 접근과 성공 전략