Acelere sua experiência em AI : simplifique a geração de AI RAG com o MongoDB Atlas e o mecanismo de lógica de AI Vertex do Google
Avalie esse Tutorial
Imagine um mundo de aplicativos baseados em dados que exigem flexibilidade e potência. É aqui que o MongoDB cresce, com recursos perfeitamente alinhados com essas necessidades atuais. Mas os dados por si só não são suficientes. Os aplicativos também precisam de inteligência. Digite AI generativa (gen AI), uma ferramenta poderosa para criação de conteúdo. Mas e se a AI pudesse fazer ainda mais?
É aqui que entram os agentes de AI . Agindo como o mestre por trás da AI, eles orquestram tarefas, aprenderam continuamente e tomaram decisões. Com os agentes, a AI gen se transforma em uma ferramenta versátil, automatizando tarefas, personalizando interações e melhorando constantemente. Mas como liberamos todo esse potencial?
É aqui que entra o Mecanismo de Racionalização da Vertex AI . O Mecanismo de Racionalização ( LangChain na AI do Vertex) é um serviço gerenciado que ajuda você a construir e implementar uma estrutura de lógica de agentes. É uma plataforma projetada especificamente para aplicativos inteligentes de AI de geração. O Reading Engine é um serviço da Vertex AI que tem todos os benefícios da integração da Vertex AI : segurança, privacidade, observabilidade e escalabilidade. Implemente e expanda facilmente seu aplicativo do desenvolvimento à produção com uma API simples, minimizando o tempo de lançamento no mercado. Como um serviço gerenciado, o Reading Engine permite que você crie e implemente uma estrutura de argumento de agente. Ele oferece flexibilidade em quanto argumentos você delega ao modelo de linguagem grande (LLM) e quanto você controla com código personalizado.
Personagem 1 : Como funciona: MongoDB como armazenamento de vetor para o mecanismo de Racionalização do Google
Vamos ver como o MongoDB Atlas e o Vertex AI Concerning Engine podem ajudá-lo a construir e implantar uma nova geração de aplicativos inteligentes usando o LangChain na Vertex AI, combinando dados, automação e aprendizado de máquina. Veja um detalhamento dos benefícios: \
- Gerenciamento de dados poderoso e flexível com o MongoDB: os recursos do MongoDB, como armazenamento de dados e armazenamento de vetores, são adequados para aplicativos modernos orientados por dados que exigem flexibilidade e escalabilidade.
- Aplicativos aprimorados com AI generativa: A AI generativa pode criar conteúdo, potencialmente economizando tempo e recursos.
- Fluxos de trabalho inteligentes com agentes AI AI : os agentes de IA podem gerenciar e automatizar tarefas nos backgrounds, melhorando a eficiência. Eles podem aprender com dados e experiência, melhorando constantemente o desempenho do aplicativo. Os agentes podem analisar dados e tomar decisões, potencialmente levando a um comportamento mais inteligente dos aplicativos.
Essa solução é benéfica para vários setores e aplicativos, como chatbots de serviço ao cliente, que podem aprender e personalizar interações, ou plataformas de e-commerce que podem automatizar recomendações de produtos com base em dados de clientes. Vamos dar um detalhamento na configuração.
Nesta publicação, abordaremos como criar um aplicativo de geração aumentada por recuperação (RAG) usando o MongoDB e a Vertex AI e implantá-lo no Reading Engine. Primeiro, comeremos dados no MongoDB Atlas e criaremos incorporações para a solução RAG. Também abordaremos como usar agentes para chamar diferentes ferramentas em retorno, consultando diferentes coleções no MongoDB com base no contexto da consulta de linguagem natural do usuário.
O MongoDB Atlas simplifica o processo ao armazenar dados complexos (como sequências de cadeias de fontes de cadeia protéico ou perfis de usuário e assim por diante) juntamente com seus embeddings de vetor correspondentes. Isso permite que você aproveite o Atlas Search vetorial para encontrar com eficiência pontos de dados semelhantes, revelando padrões e relacionamentos ocultos. Além disso, o MongoDB Atlas facilita a pesquisa de dados ao permitir que você agrupe dados semelhantes com base em suas representações vetoriais.
O LangChain é um conjunto de ferramentas de código aberto que ajuda os programadores a criar com LLMs. Como o Lego para AI, ele oferece componentes pré-construídos para conectar os modelos com seus dados e tarefas. Isso simplifica a criação de aplicativos Criativos de AI que respondam a perguntas, gerem formatos de texto e muito mais.
Para iniciar a configuração, a primeira etapa é criar um MongoDB Atlas cluster no GCP. Configure as IP entradas da lista de acesso e um usuário do banco de dados para acessar o cluster usando a connection string. Usaremos o Google CoLab para consumir, construir e implantar o RAG.
Em seguida, importe o bloco deanotaçõesPython para sua empresa CoLab, execute os requisitos e ingira o bloco. Importaremos os dados da Wikipedia para Star Federation e Star Trek.
O LangChain simplifica a geração de incorporação de texto com modelos pré-criados como text-embedding e text-embedding-gecko. Esses modelos convertem seus dados de texto em representações vetoriais, capturando significado semântica em um espaço de alta dimensionamento. Isso facilita a recuperação e comparação eficientes de informações dentro dos fluxos de trabalho de argumento da LangChain. Estamos usando o modelo text-embedding-004 do Google para converter os dados de entrada em incorporações nas 768 dimensões.
As incorporações geradas são armazenadas no MongoDB Atlas juntamente com os dados reais. Antes de executar a função write_to_mongoDB, atualize o URI para se conectar ao cluster MongoDB. Passe db_name e coll_name para a função em que você deseja armazenar as incorporações.
A primeira etapa para criar seu agente do Reading Engine é especificar o modelo de AI generativo. Aqui, estamos usando o mais recente "gemini-1.5-pro" LLM, que formará a base do componente RAG.
O LangChain atua como a ponte entre seu modelo generativo e o MongoDB Atlas, permitindo que ele consulte vetores. Ele pega uma "query" como entrada, a transforma em incorporações usando os modelos de incorporaçãodo Googlee recupera os dados mais semanticamente próximos do MongoDB Atlas. Abaixo está o script de uma ferramenta que gera vetores para a string de query , executa Atlas Search de vetor no MongoDB Atlas e retorna o documento relevante para o LLM. Atualize o banco de dados de nomes de função e o nome da collection para ler de diferentes collections. Podemos inicializar várias ferramentas e passar para o agente na próxima etapa.
O agente Connection Engine da Vertex AI vai além de apenas ferramentas de tomada de decisão, transformando os agentes do LangChain em assistentes de AI versáteis que podem lidar com dados, conectar-se a sistemas e tomar decisões complexas, tudo enquanto entende e responde a textos. Isso permitirá que você os adapte a tarefas específicas, como escolher a ferramenta certa para o trabalho. A união de modelos de linguagem poderosos como o Gêmeos com agentes de argumento aprimora suas habilidades, permitindo que eles entendam e gerem linguagem natural, tornando-os mestres em processamento de comunicação e informações — uma adição valiosa para seu conjunto de ferramentas.
Ao incorporar uma camada de argumento, seu agente aproveita as ferramentas fornecidas para orientar o usuário final a alcançar seu objetivo final. Você pode definir várias ferramentas ao mesmo tempo e o LLM descobrirá qual ferramenta usar com base na relevância para a pergunta que está sendo feita e na descrição fornecida na própria ferramenta. Estamos usando a classe padrão do LangchainAgent, que pode ser personalizadaainda mais com base em suas necessidades.
Imagem 2: fluxo de trabalho para o caso de uso acima que analisamos de ponta a ponta
Com o código abaixo, inicializaremos o agente de ferramentas para executar o Atlas Search vetorial nas coleções do MongoDB . O start_services_query_tool lerá a partir da coleção sample_starwards_embeddings. Da mesma forma, crie uma ferramenta para ler a partir da coleção sample_startrek_embeddings. O mecanismo de lógica redirecionará a query para ler a partir da coleção Starrs ou Star Trek com base no argumento e na solicitação definidos pelo usuário ao criar as ferramentas.
Com o modelo, as ferramentas e a lógica de argumento definidos e testados localmente, é hora de implantar seu agente como um serviço remoto na Vertex AI. Nós usamos:
O resultado incluirá os detalhes de implantação do Mecanismo de Racionalização que podem ser usados para implementar o aplicativo de usuário.
Você também pode depurar e otimizar seus agentes ativando o rastreamento no mecanismo de lógica. Visualize o bloco deanotações que explica como você pode usar o Cloud Trace para explorar os dados de rastreamento para obter insights.
Todos os aspectos do seu agente são personalizáveis, desde as principais instruções e prompts iniciais até o gerenciamento do histórico de conversas para uma experiência perfeita e sensível ao contexto em várias queries. Siga as instruções Python bloco deanotaçõesPython do repositório doGithub para criar seu próprio agente. A solução nesta publicação pode ser facilmente estendida para ter um agente com várias e qualquer tipo de ferramentas LangChain (como chamadas e extensões de função) e ter um aplicativo com vários agentes. Falaremos sobre os multiagentes com MongoDB e GCP em detalhes em nossos artigos de acompanhamento.
Quer $500 em créditos para o Google Marketplace? Basta conferir nosso programa, assinar o Atlas e solicitar seus créditos hoje mesmo, e experimentar o Atlas no marketplace da GCP para seu novo volume de trabalho.
Principais comentários nos fóruns
Ainda não há comentários sobre este artigo.