Como implementar o Agentic RAG usando o Claude 3.5 Sonnet, LlamaIndex e MongoDB
Avalie esse Tutorial
Em 2024 de junho, a Athropic disponibilizou laudo 3.5 Sonnet, um modelo multimodal que superou seus antecessores e concorrentes em raciocínio de nível de pós-graduação, conhecimento em nível de graduação e proficiência em codificação na época de seu lançamento.
As capacidades de raciocínio dos grandes modelos de linguagem (LLMs) estão atingindo níveis que os tornam os principais impulsionadores de sistemas de recomendação e sistemas de agentes com acesso a uma collection de ferramentas para conclusão de tarefas. Embora os chatbots baseados em LLM que usam geração aumentada de recuperação (RAG) continuem sendo o fator de forma proeminente para aplicativos de LLM, os sistemas agentes adicionam uma nova dimensão aos aplicativos de AI.
Os sistemas Agentic aproveitam o uso de ferramentas, o raciocínio e o planejamento das habilidades emergentes dos LLMs para decompor tarefas e fazer seleções de ferramentas para conclusão de tarefas. Nos aplicativos LLM, isso permite que os LLMs decidam quando e de onde obter conhecimento. Isso é possível com a criação de recuperadores de dados como ferramentas dentro do sistema de agentes. Este tutorial mostrará como construir tal sistema e muito mais.
Neste tutorial, você aprenderá o seguinte: *- Construir um sistema RAG de agente com Class 3.5 Sonnet
- Use o MongoDB dentro de um sistema RAG de agentes como fornecedor de memória
- Aproveite a integração do LlamaIndex com a Agroup, MongoDB e fornecedores de modelos para desenvolver sistemas de AI
- Desenvolva agentes de AI com LlamaIndex
- Use um processo de incorporação detalhado com LlamaIndex*
Não se esqueça de assistir e estrelar o repositório GenAI Showcase para receber atualizações quando novos notebooksforem adicionados.
Vamos definir um agente AI: um agente é uma entidade computacional artificial ciente de seu ambiente. É equipado com faculdades que permitem a percepção por meio de entrada, ação por meio do uso de ferramentas e habilidades cognitivas por meio de modelos básicos apoiados por memória de longo e curto prazo.
O cenário dos aplicativos LLM e de AI como um todo está passando por outra mudança. Embora não seja abalo, essa mudança introduz novos paradigmas de desenvolvimento de aplicativos que os engenheiros de pilha de AI , os construtores de AI e os desenvolvedores de software devem conhecer.
Como mencionado anteriormente, os chatbots habilitados para RAG são atualmente a forma predominante de aplicativos LLM em produção. No entanto, o escopo dos aplicativos LLM foi ampliado para cobrir a execução de código em sua infraestrutura. Essa expansão se deve ao fato de modelos básicos criados por empresas como OpenAI, Anthropic e Cohere se tornarem mais poderosos, exibindo habilidades emergentes, como uso de ferramentas, planejamento e raciocínio avançados e decomposição de problemas.
O Agentic RAG é um paradigma que aproveita os recursos de roteamento, uso de ferramentas, argumentos e planejamento dos LLMs, juntamente com a recuperação de informações com base na comparação da semântica de dados armazenados e de query. Esse paradigma de sistema permite o desenvolvimento de aplicativos LLM dinâmicos que podem acessar várias ferramentas para executar query, decompor tarefas e resolver problemas complexos.
Os retrievers são um componente fundamental nos pipelines RAG, servindo como interface entre as consultas do usuário e as bases de conhecimento. Para aqueles com experiência em aplicativos LLM, retrievers são um conceito bem estabelecido. Se os retrievers são um conceito novo, eles podem ser entendidos como módulos responsáveis pela execução de pesquisas semânticas (ou outros métodos de recuperação de informações) em um corpus de informações, como um armazenamento de dados.
Esses módulos empregam vários métodos de recuperação — como similaridade de vetores densos, correspondência lexical esparsa ou abordagens híbridas — para buscar com eficiência dados relevantes de uma fonte de conhecimento estruturada. A função principal do recuperador é identificar e extrair informações contextualmente apropriadas com base na similaridade semântica entre a query de entrada e os dados armazenados; isso então fornece ao LLM um contexto relevante e específico de domínio para gerar respostas relevantes, fundadas e informadas.Os recuperadores podem ser usados em umpipeline RAGsimples ou sistemas de agentes como o criado neste tutorial.
A incorporação de um retriever como uma ferramenta à qual um agente de AI tem acesso permite a utilização dinâmica de fontes de conhecimento externas, aprimorando a capacidade do agente de fornecer respostas precisas e contextualmente relevantes. Essa integração permite que o agente se adapte às informações alteradas ou atualizadas em tempo real acessando os dados mais recentes da base de conhecimento ou usando seu conhecimento paramétrico para responder a consultas simples.
Esta seção aborda a implementação do sistema RAG da agente usando o Athropic como provedor de modelo, o OpenAI como provedor de modelo de incorporação, o LlamaIndex como a estrutura de dados LLM e o MongoDB como o provedor de memória para o sistema de agente.
Abaixo está um detalhamento das etapas de implementação do sistema RAG agente:
- Configuração do ambiente e da biblioteca: instale bibliotecas como llama-index, PyMongo, etc. Esta etapa também inclui a configuração de variáveis de ambiente para chaves de API (Antrópico, Abraçando Face, OpenAI).
- Configuração do LLM e do modelo de incorporação 3 Inicializar o A título de exemplo .5 Sonnet LLM e o modelo de incorporação OpenAI.
- Carregamento e processamento de dados: carregue o conjunto de dados do Airbnb, converta-o em um formato adequado para LlamaIndex (nós e documentos) e lide com os metadados adequadamente.
- Geração de incorporação: Gere incorporações para cada nó usando o modelo de incorporação escolhido (OpenAI, neste caso, devido à sua ampla adoção).
- Configuração do MongoDB: estabeleça uma conexão com o MongoDB Atlas e crie um banco de dados e uma collection para armazenar os dados do Airbnb.
- Integração com o Banco de Dados de Vetor: Utilize o MongoDB Atlas Vector Search para criar um armazenamento de vetor e indexar as incorporações.
- Criação da ferramenta Retriever: crie um QueryEngineTool que aproveita o repositório de vetores para recuperar informações relevantes com base nas consultas do usuário.
- Criação de agente AI: instancie um FunctionCallingAgentWorker e converta-o em um agente que possa interagir com o usuário e usar a ferramenta de recuperação.
- Interação com o usuário: interaja com o agente de AI fazendo perguntas ou solicitações e observando as respostas geradas com base na base de conhecimento e no laudo 3.5 Recursos do Sonnet LLM.
As partes principais deste tutorial são as operações abordadas nas etapas 7 e 8. Essas etapas concernem a todos os procedimentos para criar o agente e as ferramentas de AI .
Para começar a configurar nosso agente de AI, precisaremos instalar várias bibliotecas de chaves. O trecho de código abaixo instala os pacotes necessários.
Vamos detalhar os pacotes e bibliotecas que estamos instalando:
llama-index: esta é a biblioteca principal que usaremos para criar nosso agente de AI. Ele fornece ferramentas e funcionalidades fundamentais para integração de grandes modelos de linguagem com fontes de dados externas.llama-index-vector-stores-mongodb: Este pacote nos permite usar o MongoDB como nosso banco de dados de vetor, o que será crucial para armazenar e recuperar com eficiência as incorporações de vetor. Este pacote integra o MongoDB à biblioteca Python LlamaIndex.llama-index-llms-anthropic: Este módulo nos permite integrar os modelos de linguagem da Anthropic — especificamente, Claude 3.5 Sonnet — em nosso pipeline LlamaIndex.llama-index-embeddings-openai: Usaremos isso para aproveitar os modelos de incorporação do OpenAI para criar representações vetoriais de nossos dados de texto.pymongo,pandasedatasets: essas bibliotecas adicionais nos ajudarão com a conexão e operações do MongoDB database, manipulação eficiente de dados e acesso a conjuntos de dados hospedados no Abraçando a Face.
Após a instalação das bibliotecas necessárias, o próximo passo é configurar nossas variáveis de ambiente.
Vamos detalhar o que cada uma dessas variáveis de ambiente representa:
ANTHROPIC_API_KEY: Este é o seu identificador exclusivo para acessar os modelos de AI da Anthropic, incluindo Claude 3.5 Soneto. Acesse ou crie sua chave API antrópica.HF_TOKEN: Esse token está associado à sua conta Hugging Face. É necessário acessar conjuntos de dados e modelos hospedados na plataforma HuggingFace.OPENAI_API_KEY: essa chave permite o acesso aos serviços do OpenAI, especialmente aos seus modelos de incorporação, que usaremos para gerar representações vetoriais de dados de texto.
Com nossas variáveis de ambiente em vigor, agora podemos configurar o LLM e os modelos de incorporação. Esta etapa é crucial para configurar os principais componentes do nosso sistema RAG agênico, que é o cérebro do agente.
Veja o que cada parte do trecho de código acima faz:
- Importe as classes necessárias do LlamaIndex para trabalhar com nossos modelos escolhidos.
- Inicialize o Athropic LLM, especificamente usando o modelo "clude-3-5-sonnet-20240620". Esse modelo servirá como o núcleo do agente de AI, lidando com argumentos complexos, tarefas de geração, uso de ferramentas e chamada de funções.
- Para nosso modelo de incorporação, estamos usando o "text-embedding-3-small" da OpenAI. Este modelo é configurado com os seguintes parâmetros:
dimensions=256: especifica o tamanho dos nossos vetores de incorporação.embed_batch_size=10: define quantos itens são processados em um único lote, otimizando a eficiência.- Recupere com segurança a chave da API OpenAI de nossas variáveis de ambiente.
- Finalmente, definimos esses modelos como nosso padrão LlamaIndex
Settings. Isso garante que todos os processos downstream do sistema agente usarão esses modelos, a menos que sejam explicitamente substituídos.
Agora que os modelos estão configurados, a próxima etapa é carregar e preparar o conjunto de dados. Este tutorial usa um subconjunto do conjunto de dados de incorporação do Airbnb do Hugging Face. Aqui está um detalhamento do processo de carregamento de dados:
Vamos destacar as principais partes do trecho de código acima:
- Importe as bibliotecas necessárias:
load_datasetda biblioteca de conjuntos de dados do Hugging Face epandasparamanipulação de dados. - Use o
load_dataset()métodoto fetch the "MongoDB/airbnb_embeddings" dataset. Thesplit="trainparameter specifies we want the training split, andstreaming=True" permite carregar iterativamente o conjunto de dados no ambiente de desenvolvimento sem carregar todo o seu conteúdo. - Para gerenciar o tamanho do conjunto de dados deste tutorial, usamos
dataset.take(4000)para limitar nossa amostra a 4000 entradas. Isso nos permite trabalhar com um subconjunto gerenciável e, ao mesmo tempo, ter dados suficientes para demonstrar os recursos do sistema. - Converta o conjunto de dados em um DataFrame Pandas usando
pd.DataFrame(dataset). Essa transformação nos dá acesso às poderosas ferramentas de manipulação de dados dos Pandas. - Por fim, exibimos as cinco primeiras linhas do DataFrame com
dataset_df.head(5)para obter uma visão geral rápida dos nossos dados.
É importante observar que você precisará de um token Hugging Face (HF_TOKEN) em seu ambiente de desenvolvimento para acessar esse conjunto de dados. Se você ainda não configurou isso, você pode obter um token.
Este conjunto de dados de incorporação do Airbnb é particularmente adequado para nosso sistema RAG agente, pois já inclui incorporações de texto e imagem pré-computadas. Essas incorporações representam vários recursos dos anúncios do Airbnb, permitindo que nosso sistema realize pesquisas semânticas de forma eficiente usando informações visuais ou baseadas em texto. Usando esse conjunto de dados, estamos simulando um cenário real em que um agente de AI pode precisar recuperar e analisar rapidamente informações sobre várias propriedades e realizar uma tarefa de recomendação.
O trecho de código acima remove as incorporações de texto preexistentes e se prepara para criar novas. Este tutorial usa essa abordagem para mostrar a seleção de atributos de dados para a criação de incorporação vetorial usando as funcionalidades do LlamaIndex. Além disso, em cenários mais práticos e aplicativos de produção, você desejaria ter mais controle sobre o processo de incorporação e garantir a consistência com o modelo de incorporação escolhido.
Essa etapa gera novos embeddings de vetor usando o modelo de embedding configurado do OpenAI. Isso envolve o processamento dos campos de texto relevantes do nosso conjunto de dados do Airbnb (como descrições, títulos ou avaliações) para criar representações vetoriais que capturam o significado semântico de cada anúncio.
Essa etapa transforma nosso conjunto de dados em um formato otimizado para nosso sistema RAG baseado em LlamaIndex. Esse processo envolve a conversão de nosso DataFrame de Pandas em uma lista de objetos de Documento LlamaIndex.
O snippet de código abaixo executa o processo de criação de documentos LlamaIndex, seleção de atributos de dados para incorporação e configuração do processo de incorporação.
Aqui está uma descrição mais técnica das operações no trecho de código:
- Converta o DataFrame para JSON e, em seguida, volte para uma lista de dicionários Python. Esta etapa garante que todos os dados estejam em um formato que possa ser facilmente manipulado.
- Itere cada documento, convertendo objetos aninhados complexos (como listas e dicionários) em strings JSON. Isso é crucial porque os valores de metadados em documentos LlamaIndex devem ser de tipos simples (str, int, float ou None).
- Para cada listagem, criamos um objeto Document LlamaIndex. O campo
texté definido como a descrição da listagem, que será o conteúdo principal para nossos embeddings e processamento de LLM. - Configure listas de exclusão de metadados para o modelo LLM e de incorporação. Isso nos permite controlar quais campos são usados em diferentes contextos, otimizando a relevância e a eficiência do processo de incorporação.
- Especifique o uso de modelos personalizados para formatação de metadados e texto. Isso garante que nossos dados sejam apresentados em um formato consistente e facilmente analisável para o LLM e o modelo de incorporação.
- Finalmente, demonstramos como os dados formatados parecem da perspectiva do LLM e do modelo de incorporação.
O próximo conjunto de operações gera incorporações para nossos documentos preparados, transformando nossos dados de texto em representações vetoriais adequadas para pesquisa semântica.
Aqui está uma explicação detalhada do trecho de código acima:
- Importe os componentes necessários do LlamaIndex e tqdm para o rastreamento do progresso.
- Inicialize um
SentenceSplittercom umchunk_sizede 5000 echunk_overlapde 200. Esse divisor divide nossos documentos em partes gerenciáveis, garantindo que cada parte seja pequena o suficiente para um processamento eficiente, mantendo o contexto por meio da sobreposição. - Aplique o divisor ao
llama_documents, criando uma lista denodes. Cada nó representa um bloco de texto de nossos documentos originais. - Configure uma barra de progresso usando
tqdmpara visualizar o processo de incorporação, o que é especialmente útil para grandes conjuntos de dados que podem demorar um pouco para incorporar todos os nós gerados. - Iterar por cada nó, gerando uma incorporação usando nosso
embed_modelconfigurado anteriormente ( "text-embedding-3-small" da OpenAI). O métodoget_contentcomMetadataMode.EMBEDgarante que somente as partes relevantes de cada nó pré-selecionadas anteriormente sejam incorporadas. - Atribua a incorporação gerada ao nó, vinculando cada bloco de texto e metadados à sua representação vetorial.
É importante notar que comentamos um
SemanticSplitterNodeParser. Esse divisor alternativo pode ser usado para uma divisão mais detalhada de documentos com base em relações semânticas entre frases, o que pode beneficiar determinados documentos ou casos de uso.O MongoDB atua como um banco de dados operacional e vetorial para o sistema RAG. O MongoDB Atlas fornece especificamente uma solução de banco de dados que armazena, consulta e recupera incorporações vetoriais com eficiência. No geral, o MongoDB atua como o fornecedor de memória dentro de um sistema de agentes.
A criação de um banco de dados e de uma coleção no MongoDB é simplificada com o MongoDB Atlas.
- Primeiro, registre-se para obter uma conta do MongoDB Atlas. Usuários existentes podem entrar no MongoDB Atlas.
- Siga as instruções. Selecione Atlas UI como o procedimento para implantar seu primeiro cluster.
- Crie o banco de dados:
airbnb. - No banco de dados
airbnb, crie a collectionlistings_reviews. - Crie um índice de pesquisa vetorial chamado
vector_indexpara a coleçãolistings_reviews. Esse índice permite que a aplicação RAG recupere registros como contexto adicional para complementar as consultas do usuário por meio da pesquisa vetorial. Abaixo está a definição JSON do índice de pesquisa vetorial da coleção de dados .
Seu índice vetorial do Atlas Search criado no MongoDB Atlas deve ter a seguinte aparência:
Siga as etapas do MongoDB para obter a connection string a partir da UI do Atlas . Armazene o URI com segurança em seu ambiente de desenvolvimento depois de configurar o banco de dados e obter o URI de conexão do Atlas cluster. Essa configuração é essencial para habilitar recursos semânticas eficientes do Atlas Search em nosso sistema RAG .
Veja uma explicação detalhada de cada parte:
- Comece definindo a variável de ambiente
MONGO_URI. Essa variável deve ser armazenada com segurança e não codificada em um ambiente de produção. - Importe
pymongo, o driver Python para MongoDB. - Defina uma função
get_mongo_clientque crie um objeto de MongoDB database usando o URI fornecido. - Recupere o
MONGO_URIdas variáveis de ambiente e verifique se ele está definido. - Use a função
get_mongo_clientpara estabelecer uma conexão com o MongoDB. - Defina o nome do banco de dados (
airbnb) e o nome da coleção (listings_reviews). - Por fim, usamos o cliente MongoDB para obter referências ao nosso banco de dados e coleção específicos.
É importante observar algumas melhores práticas aqui:
- Seu código deve manter o
MONGO_URIseguro e não expô-lo. Considere usar um sistema de gerenciamento de segredos em um ambiente de produção. - É preferívelusar os métodos
get_database()eget_collection()em vez do acesso no estilo dicionário (db['collection']), pois é menos propenso a erros.
O último código abaixo para esta etapa garante que comecemos com uma collection nova e vazia. Isso é particularmente útil em ambientes de desenvolvimento e teste em que queremos evitar a mistura de dados novos e antigos.
Esta etapa aproveita a integração MongoDB do LlamaIndex para criar uma instância do banco de dados vetorial MongoDB.
Aqui está uma explicação mais técnica do processo:
- Importe
MongoDBAtlasVectorSearchda integração MongoDB do LlamaIndex. Esta classe fornece uma interface entre o LlamaIndex e o MongoDB Atlas Vector Search. - Crie uma instância de
MongoDBAtlasVectorSearche atribua-a à variávelvector_store. Este objeto servirá como nossa interface principal para operações de pesquisa vetorial. - Passe vários parâmetros para inicializar o armazenamento de vetores:
mongo_client: Nossa conexão de cliente MongoDB estabelecida anteriormente.db_name: O nome do nosso banco de dados (neste caso, "airbnb").collection_name: o nome da nossa coleção ("listings_reviews").index_name: O nome do nosso índice vetorial do Atlas Search ("vector_index").
É importante observar que, para que isso funcione corretamente:
- Seu MongoDB Atlas cluster deve ser configurado com um índice de pesquisa vetorial criado.
- O "vector_index" mencionado aqui deve corresponder ao nome do índice vetorial que você criou no MongoDB Atlas cluster. Este índice deve ser configurado para indexar o campo onde seus embeddings estão armazenados.
O processo de ingestão dos nós — que contêm os metadados, chunks e embeddings — para um banco de MongoDB database é feito em uma única linha devido à integração intuitiva do LlamaIndex com o MongoDB. Essa solução economiza várias linhas de código de implementação, simplificando significativamente o processo de ingestão de dados.
Embora seja apenas uma linha de código, veja o que essa operação realiza:
- Ingestão de dados: este comando pega o
nodes(que contém nossos dados de listagem do Airbnb e suas incorporações correspondentes) e os adiciona ao nosso armazenamento de vetores do MongoDB Atlas. - Indexação de vetores: o MongoDB Atlas indexa automaticamente os vetores de incorporação à medida que os nós são adicionados, deixando-os prontos para pesquisas eficientes de similaridade.
- Armazenamento de metadados: Junto com as incorporações, todos os metadados associados de nossos nós (como detalhes de listagem) também são armazenados, permitindo uma recuperação rica e contextual em processos downstream.
Alguns pontos importantes a serem lembrados:
- Essa operação pode levar algum tempo, dependendo do número de nós e do tamanho do seu conjunto de dados. Para conjuntos de dados grandes, você pode querer considerar o lote desta operação.
- Garanta que sua instância do MongoDB tenha capacidade de armazenamento suficiente para seus dados e índice.
- O desempenho dessa operação pode afetar o tempo geral de configuração do seu sistema RAG, mas é um custo único que permite uma rápida recuperação posterior.
Nesta parte do tutorial, é criada a principal ferramenta para o agente utilizar na recuperação de dados relevantes do MongoDB database. A criação da ferramenta de recuperação envolve duas etapas, aproveitando os recursos avançados de indexação e consulta do LlamaIndex:
- Criando um índice de armazenamento de vetores
- Criar um mecanismo de consulta a partir do índice para recuperar documentos do banco de dados
Finalmente, esse mecanismo de consulta é encapsulado em um QueryEngineTool. Essa interface de nível superior transforma o mecanismo de consulta em uma ferramenta para o agente AI, juntamente com metadados que fornecem informações adicionais sobre sua funcionalidade e quando deve ser utilizado.
Veja o que cada parte do trecho de código acima faz:
- Importe as classes necessárias do LlamaIndex para criar a ferramenta de mecanismo de índice e query.
- Crie um
VectorStoreIndexa partir devector_store. Este índice fornece uma interface de alto nível para consultar nosso armazenamento de vetores. - Converta o índice em um mecanismo de query, especificando o seguinte:
similarity_top_k=5: isso significa que as queries retornarão os cinco principais resultados mais semelhantes.llm=llm: passe nosso modelo de idioma configurado anteriormente (Cláudio 3.5 Soneto) para o mecanismo de consulta.
- Criamos um
QueryEngineTool, que envolve nosso mecanismo de query com metadados. Nosso agente pode usar esta ferramenta para interagir com a base de conhecimento.
A descrição que demos à ferramenta é particularmente importante:
- "Fornece informações sobre os anúncios e avaliações do Airbnb": isso indica explicitamente que tipo de informação a ferramenta pode fornecer.
- " Use uma pergunta detalhada em texto simples como entrada para a ferramenta ": Isso orienta o agente sobre como formular consultas para essa ferramenta.
Essa configuração forma o núcleo da capacidade do nosso sistema RAG de recuperar informações relevantes. Quando um usuário faz uma pergunta sobre anúncios do Airbnb, nosso agente pode usar essa ferramenta para:
- Converta a pergunta em uma representação vetorial.
- Encontre os documentos mais semelhantes em nossa loja de vetores.
- Recupere esses documentos e seus metadados associados.
- Use essas informações para formular uma resposta informada.
Esta é a etapa final do processo de criação do sistema de agentes. As operações nessa etapa visam criar um agente de chamada de função capaz de usar ferramentas definidas para executar tarefas e, ao mesmo tempo, aproveitar as propriedades emergentes de raciocínio e planejamento de seu LLM para decompor tarefas complexas e atribuir sua conclusão a ferramentas específicas.
Abaixo estão as operações no trecho de código acima:
- Importe o
FunctionCallingAgentWorkerdo LlamaIndex, projetado para criar um agente capaz de usar ferramentas (como nosso mecanismo de query) para realizar tarefas. - Crie uma instância de
FunctionCallingAgentWorkerusando o métodofrom_tools. Passe em:query_engine_toolcomo uma lista de ferramentas disponíveis- O modelo de idioma configurado (
llm) verbose=Truepara permitir o registro detalhado das ações do agente
- Converta o trabalhador do agente em um agente usando o método
as_agent().
A etapa final é processar uma query de usuário e gerar uma resposta. Invocar o método de bate-papo do agente criado inicia uma interação com o agente, simulando um cenário do mundo real em que um usuário está buscando informações sobre anúncios do Airbnb em Nova York.
O agente aproveita seus recursos sofisticados de argumento, com base em Class 3.5 Sonnet, para interpretar a query, recuperar informações relevantes do armazenamento de vetores do MongoDB e sincroniza uma resposta abrangente.
Veja o que o trecho de código faz:
- Use o método
chatdo agente , passando a query: "Diga-me a melhor listagem para um lugar em Nova York." - O agente processa esta consulta usando as seguintes etapas:
- Ele analisa a query para entender a solicitação do usuário.
- Ele determina que precisa usar a ferramenta da base de conhecimento para encontrar informações sobre as listagens de Nova York.
- Ele usa o
query_engine_toolpara pesquisar listagens relevantes na loja de vetores. - Ele sintetiza as informações recuperadas para responder à "melhor" listagem.
- A resposta do agente é armazenada na
responsevariável .
Este tutorial guiou você pelo processo abrangente de criação de um sistema RAG agencial usando Claude 3.5 Soneto, LlamaIndex e MongoDB. Desde a configuração do ambiente até a criação de um agente de AI capaz de raciocínio complexo e uso de ferramentas, exploramos o formato mais recente dos aplicativos LLM.
O Agentic RAG representa uma etapa no desenvolvimento de aplicativos LLM, indo além da simples resposta a perguntas para permitir a resolução dinâmica de problemas em várias etapas e a chamada de funções. Ao combinar as habilidades emergentes de grandes modelos de linguagem, como raciocínio e planejamento, com a flexibilidade do uso de ferramentas e a eficiência da pesquisa vetorial, aplicativos de IA intuitivos e eficientes podem ser criados. Essa abordagem melhora a precisão e a relevância das respostas de AI e lança as bases para sistemas de AI mais autônomos e adaptáveis.
Para continuar sua maneira de explorar sistemas de agentes, recomendamos que você mergulhe em tutoriais relacionados, como "Construir agentes de AI com memória", que expandirão ainda mais sua compreensão e suas capacidades nesse campo em rápida evolução.
1. O que é RAG agente e como ele difere dos sistemas RAG tradicionais?
O Agentic RAG é um paradigma avançado que combina a geração aumentada de recuperação (RAG) com os recursos do agente de AI. Ao contrário dos sistemas RAG tradicionais, o RAG agente aproveita as capacidades de roteamento, uso de ferramentas, argumentos e planejamento dos LLMs, juntamente com a recuperação de informações. Isso permite uma solução de problemas mais dinâmica e complexa, permitindo que o sistema decomponha tarefas, faça seleções de ferramentas e execute queries de forma mais eficaz.
2. Como o MongoDB pode ser usado como um provedor de memória em um sistema RAG de agente?
O MongoDB serve como um banco de dados operacional e vetorial em um sistema RAG agêntico. Ele armazena, consulta e recupera com eficiência incorporações vetoriais, atuando como a memória do sistema. Ao utilizar o MongoDB Atlas Vector Search, o sistema pode realizar pesquisas semânticas rápidas em dados armazenados, permitindo que o AI acesse informações relevantes rapidamente e aprimore seu processo de tomada de decisão.
3. Quais componentes principais são necessários para criar um sistema RAG de agente com laudo 3.5 Sonnet?
Para construir um sistema RAG agente com Class 3.5 Sonnet, você precisa de:
- 3 5 Sonnet como o modelo de linguagem principal.
- LlamaIndex para integrar LLMs com fontes de dados externas.
- MongoDB para armazenamento e recuperação vetorial.
- Um modelo de incorporação (por exemplo, o text-embedding-3-small do OpenAI).
- Uma ferramenta de recuperação para buscar informações relevantes.
- Um trabalhador de agente de chamada de função para lidar com queries complexas.
Principais comentários nos fóruns
Ainda não há comentários sobre este artigo.
Avalie esse Tutorial