Blog
LLM 챗봇 구축: 공공 기관 LLM 기반 지능형 홈페이지 구현 방안
LLM 챗봇 구축을 통해 공공기관 홈페이지의 접근성과 행정 효율을 높이는 방법과 국내외 도입 사례를 소개합니다.
2025년 06월 12일

오늘날 공공기관 홈페이지는 시민들이 공공 정보와 서비스에 접근하는 핵심 창구 역할을 하고 있습니다. 하지만 정보의 양이 방대해지고 서비스가 복잡해짐에 따라, 시민들이 원하는 정보를 쉽고 빠르게 찾는 데 어려움을 겪는 경우가 많습니다. 이러한 상황에서 구축형 대규모 언어 모델(LLM)은 지자체 홈페이지의 기능을 혁신하고 시민들에게 차세대 디지털 서비스를 제공할 수 있는 강력한 도구로 부상하고 있습니다.
이번 글에서는 LLM에 대한 깊은 기술적 지식 없이도, 지자체 홈페이지에 LLM을 도입했을 때 어떤 변화가 일어나고 어떤 가치를 창출할 수 있는지, 그리고 관련 분야의 글로벌 트렌드는 어떠한지에 대해 쉽게 이해하실 수 있도록 설명해 드리고자 합니다.
1. 현재 공공기관 홈페이지의 한계: 복잡한 메뉴와 정보의 미스매치
현재 대부분의 지자체 홈페이지는 메뉴 트리 구조와 키워드 검색 방식을 중심으로 설계되어 있습니다. 많은 공공기관의 사이트들이 ‘분야별 정보’, ‘민원 안내’, ‘사업 소개’ 등 방대한 메뉴를 통해 정보를 제공하고 있습니다. 이는 행정 편의적 관점에서 정보를 체계적으로 분류한 결과이지만, 정작 개별 시민들이 ‘나’ 또는 ‘우리 가족’에게 필요한 맞춤형 정보를 찾기에는 비효율적인 구조입니다.
예를 들어, 시민이 ‘어머니가 받을 수 있는 복지 혜택’을 알고 싶을 때, 홈페이지에서는 ‘복지’, ‘노인 복지’, ‘수당’, ‘돌봄 서비스’ 등 여러 메뉴를 클릭하고, 각 페이지의 긴 텍스트를 일일이 읽어봐야 합니다. 게다가 특정 조건(나이, 소득, 거주 기간 등)에 따라 적용되는 혜택이 달라지므로, 일반적인 정보로는 자신의 상황에 맞는 구체적인 내용을 파악하기 어렵습니다. 키워드 검색 역시 정확한 키워드를 입력해야 하며, 검색 결과가 단순히 관련 페이지 목록으로 제공되어 결국 사용자는 다시 수많은 페이지를 탐색해야 하는 반복적인 어려움에 직면하게 됩니다.
이처럼 기존 홈페이지는 ‘방대한 정보를 제공‘하는 데는 충실하지만, ‘개별 사용자의 특정 질문에 맞춤형 답변을 제공‘하는 데는 한계가 명확합니다. 이는 시민 만족도 저하, 민원 전화 증가, 그리고 필요한 복지나 서비스에서 소외되는 디지털 정보 격차로 이어질 수 있습니다.
가. 공급자 중심의 복잡한 메뉴 구조
전통적인 홈페이지는 “다단계 메뉴 탐색이나 키워드 검색에 의존”합니다. 사용자는 ‘분야별 정보’, ‘민원’, ‘복지’, ‘생활’ 등 수많은 대분류 메뉴를 거쳐 하위 메뉴로 들어가야 합니다. 이는 정보를 체계적으로 정리해 놓은 것이지만, 내가 원하는 정보가 어떤 메뉴에 속해 있는지 모르는 시민에게는 미로와 같습니다.
예를 들어 ‘어머니가 받을 수 있는 복지 혜택‘을 찾으려면 ‘복지‘ 메뉴 안의 ‘노인복지‘, ‘장애인복지‘, ‘기초생활보장‘ 등 여러 항목을 모두 확인해야 합니다. 어떤 혜택은 ‘보건소‘ 메뉴에, 다른 혜택은 ‘동주민센터‘ 안내에 흩어져 있을 수도 있습니다. 이는 정보를 찾는 데 상당한 시간과 노력을 요구합니다.
나. 정보의 미스매치와 파편화
사용자는 “우리 어머니”라는 ‘사람’ 중심으로 정보를 원하지만, 홈페이지는 ‘노인 기초연금’, ‘장기요양보험’, ‘돌봄 서비스’ 등 ‘사업’ 중심으로 정보를 제공합니다. 이 간극이 정보 미스매치의 핵심입니다.
- 파편화된 정보: 한 사람에게 적용될 수 있는 여러 복지 혜택이 각기 다른 부서 소관이라는 이유로 여러 웹페이지에 흩어져 있습니다. 사용자는 이 정보들을 스스로 종합해서 판단해야 하는 어려움을 겪습니다.
- 키워드 검색의 한계: 정확한 행정 용어(예: ‘기초연금’, ‘노인맞춤돌봄서비스’)를 모르면 검색이 어렵습니다. “어머니 돌봄” 같은 일상 언어로 검색하면, 수많은 관련 없는 페이지가 나열되어 원하는 정보를 찾기 힘듭니다.
결과적으로 이러한 구조는 시민의 정보 접근성을 떨어뜨리고, 반복적인 전화 민원을 유발하며, 정작 정보가 필요한 사람이 혜택에서 소외되는 디지털 정보 격차를 심화시키는 원인이 됩니다.
2. LLM 기반 챗봇을 통한 해결 방안
바로 이러한 문제를 해결하기 위해 전 세계 공공 부문이 AI 기반 지능형 공공포털로 전환하고 있음을 보여줍니다. AI 챗봇은 기존 홈페이지의 한계를 다음과 같이 극복합니다.
가. ‘나’ 중심의 맞춤형 정보 제공
AI 챗봇은 복잡한 메뉴를 탐색할 필요 없이, 마치 “인공지능 컨시어지와 대화하듯” 자연어 질문만으로 정보를 얻게 합니다.
- 문맥 이해 및 종합 답변: 사용자가 “83세 어머니가 받을 수 있는 복지 혜택이 궁금해요”라고 질문하면, AI는 ‘나이’, ‘소득’, ‘거주지’ 등 필요한 추가 정보를 되묻거나 기존 정보를 활용합니다. 이후 여러 페이지에 흩어진 기초연금, 돌봄 서비스, 보조금 정보를 종합하여 하나의 맞춤형 요약 답변으로 제공합니다 [2].
- 조건부 정책 안내: ‘룰즈–애즈–코드(Rules as Code)’ 방식처럼, 복잡한 정책(나이, 소득, 자산 기준 등)을 AI가 이해하고 개인의 조건에 맞춰 자격 요건을 판별해줄 수 있습니다. 이는 사용자가 긴 정책 문서를 읽지 않아도 “나는 해당되나?”라는 질문에 바로 답을 얻게 합니다.
나. 정보 접근성 및 형평성 강화
AI 챗봇은 시간, 언어, 디지털 활용 능력의 제약을 허물어 보편적 공공 서비스를 구현합니다.
- 24시간 서비스: 싱가포르의 VICA 챗봇처럼 24시간 365일 언제든 문의에 응답하여, 업무 시간 외에도 시민들이 필요한 정보를 얻을 수 있습니다.
- 언어 장벽 해소: 플로리다 팜비치시의 ‘Ask Poli’ 챗봇은 70개 이상의 언어로, 뉴저지주 모노머스 카운티는 100개 이상의 언어로 정보를 제공합니다 이를 통해 외국인 주민이나 다문화 가정도 언어의 장벽 없이 공공 정보에 접근할 수 있습니다. 이는 정보 접근의 형평성을 크게 높이는 요소입니다.
다. 행정 효율성 제고 및 민원 부담 경감
시민의 편의 증진은 곧 행정 효율성 향상으로 이어집니다.
- 반복 질문 자동화: “운전면허 갱신 절차”, “실업수당 신청 방법”과 같은 단순·반복적인 질문(FAQ)을 AI가 자동으로 처리합니다 . 이로 인해 콜센터나 민원실의 업무 부담이 크게 줄어듭니다.
- 정확도 높은 대규모 민원 처리: 미국 조지아 노동부의 ‘George A.I.’ 챗봇은 실업수당 등 250만 건의 상담을 97% 이상의 정확도로 처리했습니다. 이를 통해 직원들은 더 복잡하고 전문적인 상담에 집중할 수 있게 됩니다.
3. LLM을 활용한 프롬프트 기반 서비스: 이전과 이후의 변화
변화의 배경: 전통적 정보 탐색 방식의 명백한 한계
기존의 지자체 홈페이지나 대부분의 웹사이트는 정보를 ‘분류’하고 ‘저장’하는 거대한 디지털 서고(書庫) 모델에 가까웠습니다. 이 구조 안에서 사용자는 원하는 정보를 얻기 위해 모든 탐색의 책임을 직접 져야만 했습니다.
- 스스로 정보 찾기의 부담: 메뉴 구조 탐색의 한계
사용자는 궁금한 정보를 얻기 위해, 마치 미로와 같은 홈페이지 구조 속에서 스스로 길을 찾아 나서야 했습니다. 예를 들어, ‘출산 장려금’ 정보를 찾으려는 사용자는 ‘복지’, ‘건강’, ‘가족’, ‘민원’ 등 여러 메뉴 중 어디에 해당 정보가 있을지 직접 추측하고, 가장 가능성이 높은 메뉴부터 일일이 클릭하며 탐색을 시작해야 합니다. 이 과정은 사용자에게 상당한 인지적 부하(Cognitive Load)를 유발합니다. 이는 웹사이트 설계자가 정해놓은 분류 체계를 사용자가 역으로 추리해야 하는, 철저히 공급자 중심의 구조이기 때문입니다. - 키워드 검색의 불확실성:
메뉴 탐색이 막막할 때 사용자는 검색창을 이용하지만, 이 역시 한계가 명확합니다. 사용자가 입력하는 일상적인 표현(예: “애기 낳으면 돈 주는 거”)과 행정기관이 사용하는 공식 용어(예: “출산장려금 지원 사업”)가 일치하지 않으면, 검색 결과는 전혀 엉뚱하거나 존재하지 않는다고 나올 수 있습니다. 설령 관련 페이지를 찾더라도, 검색 결과는 최종적인 답이 아닌 ‘페이지 링크 목록’에 불과합니다. 결국 사용자는 여러 개의 링크를 다시 클릭하며, 자신이 원하는 정보가 맞는지 재차 확인하는 수고를 반복해야 합니다.
이처럼 이전의 방식은 사용자에게 정보 탐색의 모든 책임을 전가했습니다. 사용자는 정보의 위치를 직접 추리하고, 정확한 키워드를 고민하며, 수많은 결과 속에서 옥석을 가려내야 하는 등, 정보에 도달하기까지의 과정은 매우 비효율적이고 종종 좌절감을 안겨주었습니다.
LLM과 프롬프트의 등장: 사용자 중심 서비스로의 혁신
LLM을 활용한 프롬프트 기반 서비스는 이러한 문제점을 정면으로 해결하며, 정보 탐색의 주도권을 시스템(AI)으로 넘겨 사용자 경험을 극적으로 향상시킵니다.
- ‘프롬프트(Prompt)’의 역할: 대화의 시작점
‘프롬프트’는 더 이상 단순한 검색어가 아닙니다. 이는 사용자의 의도, 맥락, 상황이 담긴 자연스러운 대화입니다. “서울에 사는 27세 청년인데, 어떤 지원을 받을 수 있나요?..”라는 프롬프트는 단순한 키워드의 나열이 아니라, ‘수혜 대상(27세 청년)’, ‘지역(서울시)’, ‘필요 정보(복지 혜택)’, ‘관심 분야(청년 지원, 임대 주택)’라는 복합적인 정보를 AI에게 전달하는 정교한 지시문입니다.- “서울에 사는 27세 청년인데, 어떤 지원을 받을 수 있나요?”
챗봇 응답:
안녕하세요. 서울에 거주하시는 27세 청년분께 제공되는 지원 프로그램에 대해 안내해 드리겠습니다.- 청년수당: 서울시는 만 19세부터 34세까지의 미취업 청년을 대상으로 월 50만 원씩 최대 6개월간 청년수당을 지원합니다.
- 청년 월세 지원: 월 최대 20만 원의 월세를 10개월간 지원하는 프로그램이 있으며, 일정 소득 요건을 충족하는 청년이 대상입니다.
- 취업 연계 프로그램: 서울시 일자리카페에서는 취업 컨설팅, 이력서 작성 지원, 모의 면접 등 다양한 취업 지원 서비스를 제공합니다.
- 신청 방법: 서울청년포털(https://youth.seoul.go.kr)을-of0o/) 통해 온라인으로 신청하실 수 있습니다.
- 문의처: 자세한 사항은 서울시 청년청(전화번호: 02-XXX-XXXX)으로 문의하시기 바랍니다.
- “서울에 사는 27세 청년인데, 어떤 지원을 받을 수 있나요?”
- LLM의 작동 원리: 이해, 탐색, 그리고 종합
이러한 프롬프트를 받은 LLM 기반 서비스는 다음과 같은 혁신적인 과정을 통해 답변을 생성합니다.- 의도 파악 (Intent Recognition): LLM은 뛰어난 자연어 이해(NLU) 능력을 바탕으로 사용자의 질문 속 숨은 의도와 핵심 요소를 정확하게 추출합니다. 나이, 거주지, 원하는 서비스 종류 등을 단순히 키워드로 인식하는 것을 넘어, 이것들이 ‘특정 조건에 맞는 복지 혜택을 찾아달라‘는 하나의 완성된 요청임을 이해합니다.
- 전방위적 정보 탐색 (Comprehensive Search): LLM은 지시받은 내용을 바탕으로 사전에 학습하고 연결된 모든 정보 소스를 탐색합니다. 이는 웹페이지의 텍스트에만 국한되지 않습니다. 다운로드해야만 볼 수 있었던 PDF, HWP 형식의 첨부파일 내용, 보도자료, 공지사항, 심지어 외부 API를 통해 연동된 중앙정부의 정책 데이터베이스까지 모두 탐색 대상이 됩니다. 과거에는 사용자가 각기 다른 곳에서 찾아야 했던 흩어진 정보들을 AI가 단 한 번의 요청으로 모두 수집하는 것입니다.
- 맞춤형 답변 생성 (Personalized Synthesis): 이것이 가장 핵심적인 변화입니다. AI는 수집된 정보 조각들을 단순히 나열하는 것이 아니라, 사용자의 질문 맥락에 맞춰 하나의 완성된, 개인화된 답변으로 재구성합니다. 예를 들어, 앞선 질문에 대해 다음과 같은 형태의 답변을 생성할 수 있습니다.
LLM 적용 이전/이후에 대한 비교
아래는 LLM 기반의 프롬프트 중심 서비스 도입 전과 후의 공공기관 홈페이지의 변화를 비교한 표입니다. 공공기관의 실제 서비스 환경을 고려하여 사용성, 접근성, 기술 구조, 행정 효율성 측면에서 차이를 명확히 정리했습니다.
구분 | 기존 공공기관 홈페이지(이전) | LLM 기반 프롬프트 홈페이지(이후) |
---|---|---|
사용자 인터페이스 | 복잡한 메뉴 기반, 계층형 구조 | 자연어 기반 프롬프트 입력창 중심 UI |
정보 접근 방식 | 키워드 검색 및 메뉴 탐색 필요 | 질문 기반 정보 자동 응답 |
정보 탐색 시간 | 평균 3~5개 페이지 탐색 소요 | 질문 1회로 종합 응답 제공 |
대상자 맞춤화 | 연령, 지역, 상황에 따른 구분 없음 | 사용자의 질문 맥락 기반 맞춤 응답 |
예시 질문 처리 | ’83세 어머니 복지 혜택’ 검색 ► ‘노인복지’ 링크만 제공 |
나이, 지역, 가족관계 기반으로 기초연금, 요양보험, 지자체 혜택까지 종합 안내 |
콘텐츠 제공 방식 | 정적인 텍스트/파일 중심 | 동적인 대화형 콘텐츠 생성 및 요약 가능 |
관리 및 유지보수 | 수동 페이지 제작 및 반복 업데이트 필요 | 중앙 데이터만 최신화하면 다양한 질문에 자동 응대 |
시민 만족도 | 정보 접근 장벽 높음, 민원 반복 | 정보 탐색 시간 단축, 민원 감소효과 |
접근성 | 디지털 문해력 부족자 접근 어려움 | 음성 인식, 간단한 문장 입력으로 접근 용이 |
언어적 다양성 | 표준 한국어 기반 설명 고정 | 쉬운 표현으로 재구성, 질의 문장 다양성 수용 |
행정 업무 효율화 | 단순 문의 반복으로 콜센터, 민원창구 업무 과중 | 반복 민원 자동 응답 처리로 직원 업무 집중 가능 |
기술 구조 | 정적 HTML + CMS 기반 | 백엔드 LLM + Prompt API 기반 프론트 |
서비스 확장성 | 신규 콘텐츠마다 페이지 제작 필요 | 프롬프트 설계만으로 신규 서비스 대응 가능 |
이러한 변화는 단순한 기술 도입을 넘어서, 시민 중심의 서비스 철학 구현이라는 점에서 매우 중요합니다.
특히, 고령층·장애인·다문화 시민 등 다양한 이용자 계층이 ‘메뉴 탐색’이 아닌 ‘질문’만으로도 원하는 정보를 얻을 수 있다는 점에서 디지털 포용성과 공공 서비스 접근성을 획기적으로 향상시킬 수 있습니다.
4. 해외 공공기관 사례: 대화형 AI 기반 공공 서비스의 부상
이처럼 홈페이지 인터페이스를 프롬프트 기반, 즉 ‘대화형(Conversational)’ 방식으로 전환하는 추세는 전 세계적으로 확산되고 있는 디지털 정부 혁신의 한 축입니다. 이를 단순히 ‘챗봇 도입’이라고 보기는 어렵습니다. 기존의 챗봇은 미리 정의된 시나리오나 FAQ에 기반하여 제한적인 답변만 제공하는 경우가 많았지만, LLM 기반 서비스는 인간처럼 자연어를 이해하고 복잡한 질문에도 대응할 수 있기 때문입니다.
이러한 트렌드는 ‘AI-Powered Public Service Portal’ 또는 ‘Conversational Government Interface’ 로 불리며, 정부와 시민 간의 소통 방식을 근본적으로 변화시키고 있습니다. 시민들은 더 이상 관공서 웹사이트를 ‘정보 저장소’로 여기는 것이 아니라, ‘나의 궁금증을 해결해주는 AI 비서’로 인식하게 됩니다.
주요 국가들은 이미 이러한 변화를 모색하고 있습니다. 예를 들어, 미국 일부 주정부는 LLM을 활용하여 시민들의 정책 관련 질문에 즉각적으로 답변하는 시범 사업을 진행하고 있으며, 유럽의 여러 국가들도 공공 정보 접근성을 높이기 위해 AI 기반의 자연어 처리 기술 도입을 추진하고 있습니다. 이는 정보 접근성 향상, 행정 처리 효율성 증대, 그리고 궁극적으로는 시민 경험 혁신을 목표로 합니다. 구축형 LLM은 특히 민감한 개인 정보나 정책 정보의 보안을 유지하면서 이러한 서비스를 구현할 수 있는 현실적인 대안으로 주목받고 있습니다.
1. 🇬🇧 영국 정부의 Gov.uk Chat
영국 정부는 GPT-4o 기반의 챗봇을 도입하여 기업 사용자들이 70만 페이지에 달하는 Gov.uk 웹사이트를 효율적으로 탐색할 수 있도록 지원하고 있습니다. 이 챗봇은 건축 규정, 세금 혜택, 재생 에너지 인센티브 등 다양한 주제에 대해 빠르고 정확한 정보를 제공하며, 사용자 피드백을 통해 지속적으로 개선되고 있습니다.(theguardian.com)
2. 🇺🇸 미국의 SNAP 및 Medicaid 챗봇 실험
미국에서는 LLM 챗봇을 활용하여 SNAP(식품 지원 프로그램)과 Medicaid(의료 지원 프로그램) 자격 요건에 대한 질문에 답변하는 실험이 진행되었습니다. 이 실험은 LLM이 공식 정책 문서를 기반으로 정확하고 논리적인 요약을 제공할 수 있는지를 평가하였으며, 그 결과 LLM이 복지 정책의 이해도를 높이는 데 효과적임을 확인했습니다. (digitalgovernmenthub.org)
3. 🇮🇳 인도의 ASHABot
인도에서는 지역 보건 요원들이 WhatsApp을 통해 LLM 기반 챗봇인 ASHABot을 사용하여 의료 정보에 접근하고 있습니다. 이 챗봇은 전문가의 검토를 거친 정보를 제공하며, 보건 요원들이 민감하거나 기본적인 질문을 자유롭게 할 수 있는 환경을 조성하여 정보 접근성을 향상시켰습니다. (arxiv.org+1arxiv.org+1)
4. 🇺🇸 미국의 GRASP: 지방 예산 챗봇
GRASP는 지방 예산에 대한 시민의 이해를 돕기 위해 개발된 챗봇으로, Retrieval-Augmented Generation(RAG) 프레임워크를 활용하여 정확하고 근거 있는 정보를 제공합니다. 이 챗봇은 GPT-4o보다 18% 높은 정확도를 기록하며, 시민 참여와 정부 투명성을 증진시키는 데 기여하고 있습니다. (arxiv.org)
마무리
구축형 LLM을 활용한 지자체 홈페이지 혁신은 단순히 최신 기술을 도입하는 것을 넘어, 시민들에게 훨씬 더 친절하고, 효율적이며, 개인화된 디지털 공공 서비스를 제공하기 위한 필수적인 변화 방향입니다. 복잡한 메뉴 구조에 갇혀 있던 정보를 시민 한 명 한 명에게 필요한 맞춤형 답변으로 재구성하여 제공하는 것은, 행정 서비스의 패러다임을 바꾸는 중요한 발걸음이 될 것입니다.
IT 분야 의사결정자 여러분께서 이러한 LLM 기반의 혁신을 통해 지자체 홈페이지를 단순한 정보 제공 창구를 넘어, 시민들의 삶을 실질적으로 돕고 행정 효율을 극대화하는 ‘AI 비서‘로 발전시키는 가능성을 염두에 두시고, 미래 디지털 정부 구축을 위한 전략 수립에 반드시 고려되어야 합니다.
References & Related Links