Geração Aumentada de Recuperação (RAG) com Atlas Vector Search

Configure o ambiente.

Crie um bloco de anotações Python interativo salvando um arquivo com a extensão .ipynb e, em seguida, execute o seguinte código no bloco de anotações para instalar as dependências:

pip install --quiet pymongo langchain langchain_community langchain_mongodb langchain_huggingface pypdf sentence_transformers

Faça a ingestão de dados no Atlas.

Nesta seção, você ingere dados de amostra no Atlas aos quais os LLMs não têm acesso. O código a seguir usa a integração LangChain e o driver PyMongo para fazer o seguinte:

• Carregue um PDF que contenha o último relatório de rendimentos do MongoDB.

• Divida os dados em blocos, especificando o tamanho do bloco (número de caracteres) e a sobreposição do bloco (número de caracteres sobrepostos entre blocos consecutivos).

• Carregar o nomic-embed-text-v1 modelo incorporado do centro de modelos do Abraçando a face.

• Crie incorporações vetoriais a partir dos dados e armazene estas incorporações na coleção do rag_db.test no seu agrupamento do Atlas.

Cole e execute o seguinte código em seu bloco de anotações, substituindo <connection-string> por sua connection string do Atlas:

from langchain_community.document_loaders import PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_huggingface import HuggingFaceEmbeddings
from langchain_mongodb import MongoDBAtlasVectorSearch
from pymongo import MongoClient
# Load the PDF
loader = PyPDFLoader("https://investors.mongodb.com/node/12236/pdf")
data = loader.load()
# Split the data into chunks
text_splitter = RecursiveCharacterTextSplitter(chunk_size=400, chunk_overlap=20)
docs = text_splitter.split_documents(data)
# Load the embedding model (https://huggingface.co/nomic-ai/nomic-embed-text-v1")
model = HuggingFaceEmbeddings(model_name="nomic-ai/nomic-embed-text-v1", model_kwargs={ "trust_remote_code": True })
# Connect to your Atlas cluster
client = MongoClient("<connection-string>")
collection = client["rag_db"]["test"]
# Store the data as vector embeddings in Atlas
vector_store = MongoDBAtlasVectorSearch.from_documents(
    documents = docs,
    embedding = model,
    collection = collection,
    index_name = "vector_index"
)

Utilize o Atlas Vector Search para recuperar documentos.

Nesta seção, você configura o Atlas Vector Search para recuperar documentos do seu banco de dados vetorial. Conclua as seguintes etapas:

1. Crie um índice do Atlas Vector Search em suas incorporações vetoriais.

   Clusters gratuitos

   Clusters dedicados

   Para clusters gratuitos e compartilhados, siga as etapas para criar um índice por meio da UI do Atlas. Dê um nome ao índice vector_index e use a seguinte definição de índice:

   {
      "fields": [
         {
            "type": "vector",
            "path": "embedding",
            "numDimensions": 768,
            "similarity": "euclidean"
         }
      ]
   }

   Para clusters dedicados, você pode criar o índice diretamente de seu aplicativo usando o driver PyMongo. Cole e execute o seguinte código no seu bloco de notas:

   pymongo.operations import SearchIndexModel
   # Create your index model, then create the search index
   search_index_model = SearchIndexModel(
     definition = {
       "fields": [
         {
           "type": "vector",
           "numDimensions": 768,
           "path": "embedding",
           "similarity": "cosine"
         }
       ]
     },
     name = "vector_index",
     type = "vectorSearch"
   )
   collection.create_search_index(model=search_index_model)

2. Configure o Atlas Vector Search como um recuperador.

   Em seu bloco de anotações, execute o seguinte código para configurar seu sistema de recuperação e execute uma query de pesquisa semântica de exemplo usando a integração LangChain:

   # Instantiate Atlas Vector Search as a retriever
   retriever = vector_store.as_retriever(
      search_type = "similarity"
   )
   # Run a sample query in order of relevance
   retriever.invoke("AI technology")

   OCULTAR SAÍDA

   [Document(metadata={'_id': '66a910ba7f78f7ec6760ceba', 'source': 'https://investors.mongodb.com/node/12236/pdf', 'page': 0}, page_content="more of our customers. We also see a tremendous opportunity to win more legacy workloads, as AI has now become a catalyst to modernize these\napplications. MongoDB's  document-based architecture is particularly well-suited for the variety and scale of data required by AI-powered applications."),
    Document(metadata={'_id': '66a910ba7f78f7ec6760ced6', 'source': 'https://investors.mongodb.com/node/12236/pdf', 'page': 1}, page_content='artificial intelligence, in our offerings or partnerships; the growth and expansion of the market for database products and our ability to penetrate that\nmarket; our ability to integrate acquired businesses and technologies successfully or achieve the expected benefits of such acquisitions; our ability to'),
    Document(metadata={'_id': '66a910ba7f78f7ec6760cec3', 'source': 'https://investors.mongodb.com/node/12236/pdf', 'page': 0}, page_content='MongoDB  continues to expand its AI ecosystem with the announcement of the MongoDB AI Applications Program (MAAP),'),
    Document(metadata={'_id': '66a910ba7f78f7ec6760cec4', 'source': 'https://investors.mongodb.com/node/12236/pdf', 'page': 1}, page_content='which provides customers with reference architectures, pre-built partner integrations, and professional services to help\nthem quickly build AI-powered applications. Accenture will establish a center of excellence focused on MongoDB  projects,\nand is the first global systems integrator to join MAAP.')]

Gere respostas com o LLM.

Nesta seção, você gera respostas solicitando a um LLM que use os documentos recuperados como contexto. O código a seguir usa o LangChain para fazer o seguinte:

• Acesse a instrução Miscal B 7 modelo do hub de modelos do Abraçando Face.

• Instrua o LLM a incluir a pergunta do usuário e os documentos recuperados no prompt usando um modelo de prompte cadeia.

• Informe o LLM sobre os últimos anúncios de IA do MongoDB.

Cole e execute o seguinte código no seu bloco de anotações, substituindo <token> pelo seu token de acesso do Abraçando a Face. A resposta gerada pode variar.

from langchain_huggingface import HuggingFaceEndpoint
from langchain.prompts import PromptTemplate
from langchain_core.runnables import RunnablePassthrough
from langchain_core.output_parsers import StrOutputParser
import os
# Authenticate to your Hugging Face account
os.environ["HF_TOKEN"] = "<token>"
# Access the LLM (https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.2)
llm = HuggingFaceEndpoint(repo_id="mistralai/Mistral-7B-Instruct-v0.2")
# Create prompt and RAG workflow
prompt = PromptTemplate.from_template("""
   Answer the following question based on the given context.
   Question: {question}
   Context: {context}
""")
rag_chain = (
   { "context": retriever, "question": RunnablePassthrough()}
   | prompt
   | llm
   | StrOutputParser()
)
# Prompt the LLM
question = "In a few sentences, what are MongoDB's latest AI announcements?"
answer = rag_chain.invoke(question)
print(answer)

Answer: MongoDB recently announced the MongoDB AI Applications Program
(MAAP) as part of their efforts to expand their AI ecosystem.
The document-based architecture of MongoDB is particularly well-suited
for AI-powered applications, offering an opportunity to win more legacy
workloads. These announcements were made at MongoDB.local NYC.