Back to the Basics Back to the Basics

RAG 시스템에서 검색된 문서를 프롬프트에 어떻게 구성하느냐에 따라 LLM의 응답 품질이 결정됩니다. 이 글에서는 Spring AI의 ChatClient를 활용한 고급 프롬프트 구성 방식과 문서 삽입 전략을 실전 예제 중심으로 소개합니다. 단순하게 “문서를 넣자”는 위험한 생각 많은 초보 구현에서 이런 식의 프롬프트가 사용됩니다.[문서들]{document1}{document2}{document3}질문: 사용자가 입력한 질문답변:이 구조, 잘못되진 않았지만 지나치게 단순하고, 모델에게 역할이 명확하지 않으며, 문맥 유지가 어렵습니다.특히 여러 문서를 삽입하면 모델은 어디까지를 참고해야 할지 혼란스러워합니다. 고급 RAG 시스템은 단순히 “문서를 붙이는” 수준을 넘어서야 합니다.Spring AI의 Chat..

Spring AI에서 Chroma Vector DB를 연동해 RAG 시스템을 구성하는 방법을 실습 중심으로 소개합니다. 문서 인덱싱, 벡터 저장, 유사도 기반 검색, LLM 응답까지의 전체 파이프라인을 구성합니다. 이전 글에서 우리는 RAG의 구조와 Vector Store의 역할에 대해 분석했습니다.이번 글에서는 그 개념을 실제 코드로 구현해보는 단계입니다.Spring AI가 제공하는 Chroma 연동 기능을 활용해 문서를 벡터로 저장하고,유사 문서를 검색한 뒤 LLM에 전달하는 전 과정을 구현해보겠습니다.개발 환경 준비Java 17+Spring Boot 3.2.xSpring AI 0.8.0Chroma (로컬 실행)OpenAI 또는 Hugging Face API 키1. 의존성 추가Chroma와 Embed..

Spring AI에서 제공하는 PromptTemplate 기능을 바탕으로, LLM 응답을 더 정밀하게 제어할 수 있는 프롬프트 설계 전략을 살펴봅니다. 다양한 실전 예시와 함께 Prompt Engineering의 핵심 개념을 정리합니다. 우리가 GPT나 Hugging Face 모델을 쓸 때 가장 많이 하는 실수 중 하나는 이겁니다.그냥 질문만 던지고 결과가 별로면 모델 탓을 한다는 거죠.사실 LLM의 성능은 모델의 파라미터 수나 학습 데이터만으로 결정되지 않습니다.**어떻게 질문하느냐(Prompting)**도 그 못지않게 중요합니다.프롬프트 엔지니어링(Prompt Engineering)은 이 “질문 설계”를 통해 원하는 출력을 이끌어내는 기술입니다.Spring AI는 이걸 위한 도구로 PromptTemp..

Spring AI를 활용해 Hugging Face Inference API와 연동하는 방법을 설명합니다. 모델 선택, 설정 파일 구성, 텍스트 생성 실습까지 Java 기반에서 손쉽게 구현할 수 있는 방법을 소개합니다. Spring AI는 OpenAI뿐만 아니라 Hugging Face Hub의 모델들도 손쉽게 연동할 수 있도록 설계되어 있습니다.이번 글에서는 Spring AI를 통해 Hugging Face Inference API를 연동하고,BLOOM 또는 Falcon 등 텍스트 생성 모델을 활용하는 방법을 실습 중심으로 소개합니다.1. Hugging Face Inference API란?Hugging Face Inference API는 Hugging Face에 업로드된 사전 학습 모델을 REST API로 ..

Spring AI를 통해 OpenAI GPT API를 Spring Boot 애플리케이션에 연동하는 방법을 소개합니다. 프로젝트 설정, 프롬프트 구성, 결과 출력까지 실습 중심으로 설명합니다. 이전 글에서 Spring AI의 모듈 구조와 계층 설계를 살펴봤습니다. 이번 글에서는 그 구조를 실제로 적용해보는 시간을 갖겠습니다.Spring Boot 애플리케이션에 OpenAI GPT 모델을 연동하고, 사용자의 입력을 받아 텍스트를 생성하는 과정을 실습 중심으로 정리했습니다. 1. 의존성 설정 프로젝트에 OpenAI Starter를 추가합니다. 현재 Spring AI는 Maven Central에 공개되어 있으며, 버전은 0.8.0 기준입니다. Maven org.springframework.ai sprin..

Spring AI는 OpenAI, Hugging Face, Chroma 등 다양한 AI 서비스를 선언적으로 연동할 수 있도록 돕는 Spring 기반 프레임워크입니다. 본 글에서는 프로젝트 구조와 주요 모듈 역할을 중심으로, Spring AI의 구성 원리를 소개합니다. AI 기능을 애플리케이션에 녹여내기 위해 Spring AI를 도입하려 할 때, 가장 먼저 부딪히는 질문은 이것입니다. “Spring AI는 정확히 어떤 구조로 구성돼 있고, 어떤 모듈을 어떻게 의존해야 하지?” 이 질문은 단순히 설정을 어떻게 하느냐를 넘어,AI 기능을 어떻게 확장할 수 있는가,어떤 모듈이 어떤 기능을 담당하는가,그리고내가 사용하는 LLM과 Vector DB는 어떤 식으로 연동되는가를 이해하는 데 매우 중요합니다. 이번 글..

Spring AI는 OpenAI, Hugging Face, Mistral 등 다양한 LLM을 Spring 개발 환경에서 통합할 수 있는 AI 프레임워크입니다. 본 글에서는 Spring AI의 등장 배경과 핵심 가치, 그리고 왜 지금 Java 생태계에서 AI가 중요한지를 분석합니다. AI 기술의 진보는 개발자의 일상 언어로까지 파고들고 있습니다. 특히 OpenAI, Anthropic, Hugging Face와 같은 LLM API들이 강력한 텍스트 생성, 요약, 추론 기능을 제공하면서, 우리는 ‘AI 기능을 애플리케이션에 녹이는 일’에 익숙해지고 있죠. 하지만 Spring 개발자에게 AI는 여전히 먼 이야기처럼 느껴졌습니다. 대부분의 AI 튜토리얼은 Python 기반이고, 프론트엔드에서는 JS 기반 라이브..

Spring Boot에서 Elasticsearch를 연동하여 검색 기능을 구현하는 방법을 설명합니다. 인덱스 설계, 매핑 구조, 쿼리 작성, 운영 적용 전략까지 실무 중심으로 정리한 검색 시스템 구축 가이드입니다. 전통적인 RDB 기반 LIKE 검색은 유연성과 성능에 한계가 있습니다.특히 전체 텍스트 검색이나 복합 조건 검색이 필요한 경우Elasticsearch를 연동한 검색 전용 아키텍처가 필요한 이유입니다.Spring Boot와 Elasticsearch를 연동하면도메인 객체를 기반으로 간결하게 인덱싱하고다양한 검색 쿼리를 조합할 수 있으며확장성과 응답 속도를 동시에 만족하는 검색 시스템을 구축할 수 있습니다.1. Elasticsearch 기본 개념 정리개념 설명IndexDB의 테이블과 유사, 검색 단..