Back to the Basics Back to the Basics

Milvus는 AI용 벡터 DB로 빠르게 성장하고 있는 오픈소스 프로젝트입니다. 고차원 벡터 데이터를 빠르게 검색하고, 수억 개의 임베딩 데이터를 효율적으로 다룰 수 있다는 점에서 RAG 구현 시 핵심 인프라로 자리 잡고 있습니다. 이번 글에서는 Spring AI 환경에서 Milvus를 연동하고, 실제로 벡터 검색에 활용하는 실전 전략을 다뤄보겠습니다. Milvus가 RAG 벡터 DB로 주목받는 이유 Milvus는 다음과 같은 특성으로 인해 Spring AI 기반의 벡터 검색 시스템에서 매우 유리한 선택지로 꼽힙니다. 높은 성능과 확장성: 수억 개의 벡터를 고속으로 인덱싱하고 검색할 수 있음유연한 인덱스 구조: IVF_FLAT, HNSW, DiskANN 등 다양한 벡터 인덱싱 알고리즘 지원GRPC 기반..

RAG 시스템에서 핵심적인 컴포넌트인 VectorStore의 선택과 확장은 응답 품질과 성능에 직결됩니다. Chroma, Milvus, Weaviate, pgvector 등 주요 Vector DB들의 차이를 비교하고, Spring AI에서의 적용 방식을 전략적으로 분석합니다. VectorStore 선택, RAG의 품질을 결정한다 RAG 시스템을 구축할 때 가장 많은 시간과 고민이 들어가는 영역 중 하나가 바로 VectorStore 선택입니다.단순히 “벡터를 저장하는 곳”이라기보다는, 질문과 가장 밀접한 문서를 어떻게 빠르고 정확하게 찾아낼 수 있는가를 결정짓는 핵심 컴포넌트이기 때문입니다. LLM이 아무리 뛰어나더라도, 검색된 문서가 엉뚱하면 결과는 부정확하고 불안정할 수밖에 없습니다.따라서 이 글에서..

RAG(Retrieval-Augmented Generation)는 외부 지식과 LLM을 결합해 보다 정확한 응답을 생성하는 대표적인 아키텍처입니다. 본 글에서는 RAG의 개념과 핵심 요소인 Vector Store의 구조와 역할, Spring AI에서의 구현 방식을 심층적으로 분석합니다. RAG, 이제 선택이 아닌 기본 전략이 되다 LLM을 활용한 서비스에서 자주 나오는 요구사항이 있습니다. “GPT에게 우리 회사 메뉴얼을 학습시켜야 합니다.”“PDF 문서를 기반으로 답을 해줬으면 해요.”“특정 용어는 우리 업계 기준에 맞게 설명되었으면 좋겠어요.” 이런 요구는 단순한 텍스트 생성만으로는 충족되지 않습니다.바로 이때 등장하는 전략이 **RAG(Retrieval-Augmented Generation)**입니..