공공기관 LLM 챗봇 도입 전 필수 체크리스트 — 지능형 홈페이지 구축
현재 대부분의 지자체 홈페이지는 메뉴 트리 구조와 키워드 검색 방식을 중심으로 설계되어 있습니다.
현재 대부분의 지자체 홈페이지는 메뉴 트리 구조와 키워드 검색 방식을 중심으로 설계되어 있습니다.
이 자료는 Model Context Protocol (MCP)에 대한 소개 및 아키텍처, 통신 방식, 그리고 기술적 전환의 배경과 방향성까지 폭넓게 다루고 있습니다.
현재 많은 공공기관의 대국민 서비스와 내부 행정 시스템은 모놀리식 아키텍처로 구축되어 있습니다.
COSTAR 프레임워크는 대형 언어 모델(LLM)의 프롬프트 엔지니어링을 체계화하기 위해 싱가포르 정부 기술청(GovTech Singapore)의 데이터 과학 및 인공지능 부서에서 개발한 구조화된 접근 방식입니다.
vLLM은 2023년 초부터 개발이 시작된 오픈소스 프로젝트입니다.
지금 우리는 기술 지형을 뒤흔드는 거대한 변화의 중심에 서 있습니다.
Gemma는 Google이 2024년 2월에 처음 공개한 경량화된 오픈 웨이트 기반의 언어 모델(Large Language Model)입니다.
GEMMA(젬마)는 구글 딥마인드(Google DeepMind)가 개발한 최신의 대규모 AI 언어 모델 시리즈입니다.
최근 AI 산업에서는 오픈소스 기반의 대규모 언어 모델(LLM, Large Language Model)의 확산과 발전이 두드러지고 있습니다.
AI 가속기라는 표현은 본래 더 포괄적인 개념입니다.
Exaone은 LG AI Research에서 개발한 초거대 멀티모달 언어 모델(large-scale multimodal language model)로, 텍스트뿐만 아니라 이미지 등 다양한 입력을 동시에 이해하고 처리할 수 있는 모델입니다.
AI 가속기라는 개념은, 인공지능 모델, 특히 딥러닝 모델의 학습이나 추론 과정에서 필요한 대규모 수치 연산을 더 빠르고 효율적으로 처리하기 위한 하드웨어 장치를 의미합니다.
Milvus는 벡터 데이터의 저장과 검색을 전문적으로 지원하는 오픈소스 벡터 데이터베이스(Vector Database)입니다.
최근 몇 년간 ChatGPT와 같은 생성형 인공지능(Generative AI)이 등장하면서 소프트웨어 개발자의 업무 방식에도 큰 변화가 나타나고 있습니다.
최근 인공지능(AI) 기술의 발전은 실로 눈부시며, 이제는 우리 삶의 거의 모든 영역에서 AI가 활약하고 있다고 해도 과언이 아닙니다.
대규모 언어 모델(LLM)인 ChatGPT와 같은 AI 시스템을 사용할 때, 원하는 결과를 얻기 위해서는 프롬프트 엔지니어링 기술이 중요합니다.
Open WebUI는 대규모 언어 모델(LLM)과의 상호작용을 위한 확장 가능하고 사용자 친화적인 오픈 소스 플랫폼으로, 완전히 오프라인 환경에서도 작동하도록 설계되었습니다.
공개 LLM(Large Language Model)은 대규모 언어 모델의 소스 코드와 가중치가 공개되어 있어 누구나 접근하고 수정할 수 있는 인공지능 모델을 의미합니다.
이 유뷰브 튜토리얼은 Dify 에서 제공하는 RAG(Retrieval Augmented Generation) 파이프라인을 이용해 AI 개인 비서 애플리케이션의 성능을 향상시키는 방법을 소개합니다.
Dify는 AI 개발의 문턱을 낮추고 누구나 간편하게 고급 AI 애플리케이션을 구축할 수 있는 오픈 소스 LLM 앱 개발 플랫폼입니다.