Atlas Vector Search를 사용한 RAG(검색-증강 생성)

환경을 설정합니다.

확장자가 .ipynb 인 파일을 저장하여 대화형 Python 노트북을 만든 후 노트북에서 다음 코드를 실행하여 종속성을 설치합니다.

pip install --quiet pymongo langchain langchain_community langchain_mongodb langchain_huggingface pypdf sentence_transformers

Atlas로 데이터를 수집합니다.

이 섹션에서는 LLM이 액세스할 수 없는 샘플 데이터를 Atlas로 수집 합니다. 다음 코드는 LangChain 통합 및 PyMongo 드라이버 를 사용하여 다음을 수행합니다.

• MongoDB의 최신 수익 보고서가 포함된 PDF를 로드합니다.

• 데이터를 청크로 분할하여 청크 크기 (문자 수)와 청크 겹침 (연속된 청크 간에 겹치는 문자 수)을 지정합니다.

• nomic-embed-text-v1 를 로드합니다. 허깅 페이스의 모델 허브에서 가져온 임베딩 모델입니다.

• 데이터에서 벡터 임베딩을 생성하고 이러한 임베딩을 Atlas 클러스터의 rag_db.test 컬렉션에 저장합니다.

노트북에 다음 코드를 붙여넣고 실행하여 <connection-string> 을(를) Atlas 연결 문자열로 바꿉니다.

from langchain_community.document_loaders import PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_huggingface import HuggingFaceEmbeddings
from langchain_mongodb import MongoDBAtlasVectorSearch
from pymongo import MongoClient
# Load the PDF
loader = PyPDFLoader("https://investors.mongodb.com/node/12236/pdf")
data = loader.load()
# Split the data into chunks
text_splitter = RecursiveCharacterTextSplitter(chunk_size=400, chunk_overlap=20)
docs = text_splitter.split_documents(data)
# Load the embedding model (https://huggingface.co/nomic-ai/nomic-embed-text-v1")
model = HuggingFaceEmbeddings(model_name="nomic-ai/nomic-embed-text-v1", model_kwargs={ "trust_remote_code": True })
# Connect to your Atlas cluster
client = MongoClient("<connection-string>")
collection = client["rag_db"]["test"]
# Store the data as vector embeddings in Atlas
vector_store = MongoDBAtlasVectorSearch.from_documents(
    documents = docs,
    embedding = model,
    collection = collection,
    index_name = "vector_index"
)

Atlas Vector Search를 사용하여 문서를 검색하세요.

이 섹션에서는 Atlas Vector Search를 설정하여 벡터 데이터베이스에서 문서를 검색 합니다. 다음 단계를 완료하세요.

1. 벡터 임베딩에 Atlas Vector Search 인덱스를 생성합니다.

   무료 클러스터

   전용 클러스터

   무료 및 공유 클러스터의 경우 , Atlas UI를 통해 인덱스를 생성하는 단계를 따르세요. 인덱스 이름을 vector_index 로 지정하고 다음 인덱스 정의를 사용합니다.

   {
      "fields": [
         {
            "type": "vector",
            "path": "embedding",
            "numDimensions": 768,
            "similarity": "euclidean"
         }
      ]
   }

   전용 클러스터의 경우 PyMongo 드라이버를 사용하여 애플리케이션에서 직접 인덱스를 만들 수 있습니다. 노트북에 다음 코드를 붙여넣고 실행합니다.

   pymongo.operations import SearchIndexModel
   # Create your index model, then create the search index
   search_index_model = SearchIndexModel(
     definition = {
       "fields": [
         {
           "type": "vector",
           "numDimensions": 768,
           "path": "embedding",
           "similarity": "cosine"
         }
       ]
     },
     name = "vector_index",
     type = "vectorSearch"
   )
   collection.create_search_index(model=search_index_model)

2. Atlas Vector Search를 리트리버로 구성합니다.

   노트북에서 다음 코드를 실행하여 검색 시스템을 설정하고 LangChain 통합을 사용하여 샘플 시맨틱 검색 쿼리를 실행합니다.

   # Instantiate Atlas Vector Search as a retriever
   retriever = vector_store.as_retriever(
      search_type = "similarity"
   )
   # Run a sample query in order of relevance
   retriever.invoke("AI technology")

   출력 숨기기

   [Document(metadata={'_id': '66a910ba7f78f7ec6760ceba', 'source': 'https://investors.mongodb.com/node/12236/pdf', 'page': 0}, page_content="more of our customers. We also see a tremendous opportunity to win more legacy workloads, as AI has now become a catalyst to modernize these\napplications. MongoDB's  document-based architecture is particularly well-suited for the variety and scale of data required by AI-powered applications."),
    Document(metadata={'_id': '66a910ba7f78f7ec6760ced6', 'source': 'https://investors.mongodb.com/node/12236/pdf', 'page': 1}, page_content='artificial intelligence, in our offerings or partnerships; the growth and expansion of the market for database products and our ability to penetrate that\nmarket; our ability to integrate acquired businesses and technologies successfully or achieve the expected benefits of such acquisitions; our ability to'),
    Document(metadata={'_id': '66a910ba7f78f7ec6760cec3', 'source': 'https://investors.mongodb.com/node/12236/pdf', 'page': 0}, page_content='MongoDB  continues to expand its AI ecosystem with the announcement of the MongoDB AI Applications Program (MAAP),'),
    Document(metadata={'_id': '66a910ba7f78f7ec6760cec4', 'source': 'https://investors.mongodb.com/node/12236/pdf', 'page': 1}, page_content='which provides customers with reference architectures, pre-built partner integrations, and professional services to help\nthem quickly build AI-powered applications. Accenture will establish a center of excellence focused on MongoDB  projects,\nand is the first global systems integrator to join MAAP.')]

LLM 을 사용하여 응답을 생성합니다.

이 섹션에서는 검색된 문서를 컨텍스트로 사용하도록 LLM 에 프롬프트를 표시하여 응답을 생성 합니다. 다음 코드는 LangChain을 사용하여 다음을 수행합니다.

• 미스트럴 7B 지침 에 액세스 허깅 페이스의 모델 허브에 있는 모델입니다.

• 프롬프트 템플릿 을 사용하여 프롬프트에 사용자의 질문과 조회한 문서를 포함하도록 LLM 에 지시 및 체인.

• MongoDB의 최신 AI 발표에 대해 LLM 에 표시합니다.

노트북에 다음 코드를 붙여넣고 실행하여 <token> 을 허깅 페이스 액세스 토큰으로 바꿉니다. 생성된 응답은 다를 수 있습니다.

from langchain_huggingface import HuggingFaceEndpoint
from langchain.prompts import PromptTemplate
from langchain_core.runnables import RunnablePassthrough
from langchain_core.output_parsers import StrOutputParser
import os
# Authenticate to your Hugging Face account
os.environ["HF_TOKEN"] = "<token>"
# Access the LLM (https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.2)
llm = HuggingFaceEndpoint(repo_id="mistralai/Mistral-7B-Instruct-v0.2")
# Create prompt and RAG workflow
prompt = PromptTemplate.from_template("""
   Answer the following question based on the given context.
   Question: {question}
   Context: {context}
""")
rag_chain = (
   { "context": retriever, "question": RunnablePassthrough()}
   | prompt
   | llm
   | StrOutputParser()
)
# Prompt the LLM
question = "In a few sentences, what are MongoDB's latest AI announcements?"
answer = rag_chain.invoke(question)
print(answer)

Answer: MongoDB recently announced the MongoDB AI Applications Program
(MAAP) as part of their efforts to expand their AI ecosystem.
The document-based architecture of MongoDB is particularly well-suited
for AI-powered applications, offering an opportunity to win more legacy
workloads. These announcements were made at MongoDB.local NYC.