Ollama를 활용한 REST API 구축 및 사용법 1. Ollama 설치 및 서버 실행 Ollama를 이용하기 위해서는 먼저 사용자의 운영체제에 맞춰 애플리케이션을 설치해야 합니다. 설치가 끝나면 Ollama 서버는 자동으로 백그라운드에서 구동됩니다. 만약 서버를 직접 시작하고 싶다면 터미널에 ollama serve 명령어를 입력하세요. 이 명령어는 REST API 기능을 제공하는 핵심 서버를 구동합니다. 2. 모델 다운로드 Ollama의 REST API를… Read More »
검색 증강 생성(RAG)은 대규모 언어 모델(LLM)이 가진 한계, 예를 들어 최신 정보 부족이나 환각(hallucination) 현상을 극복하기 위한 효과적인 기술입니다. RAG는 LLM이 학습 데이터에만 의존하는 대신, 외부 지식에서 필요한 정보를 찾아내어 답변 생성에 활용함으로써 정확하고 신뢰성 높은 결과물을 만들어냅니다. RAG의 작동 단계 RAG는 크게 세 가지 핵심 과정으로 구성됩니다. 1. 데이터 색인화 (Indexing) 2. 정보 검색… Read More »
모델 컨텍스트 프로토콜(MCP) 이해하기 MCP는 Model Context Protocol의 약자이며, 인공지능(AI) 에이전트, 특히 대규모 언어 모델(LLM)이 외부 도구와 데이터 소스에 안전하고 표준화된 방식으로 연결하여 상호작용하도록 돕는 개방형 프로토콜입니다. MCP는 AI가 학습 범위를 넘어서는 다양한 작업을 수행할 수 있도록 돕는 “통합 언어” 또는 “공통 연결 포트”의 역할을 수행합니다. MCP의 등장 배경과 중요성 기존에는 LLM이 외부 도구 또는… Read More »
구글 제미니 CLI 설치 및 활용법 구글 제미니(Gemini) CLI는 개발자가 터미널 환경에서 제미니 모델과 직접 소통하며 다양한 작업을 수행하도록 돕는 강력한 도구입니다. 이 CLI는 특히 Node.js 20 이상 환경에서 구동되므로, 사용 전 Node.js 버전을 확인해야 합니다. 설치 및 사용 방식 제미니 CLI는 두 가지 주요 방식으로 설치하고 활용할 수 있습니다. 1. NPX를 이용한 즉시 실행… Read More »