RAG facilitado com o MongoDB Atlas e o Azure OpenAI
Avalie esse anúncio
Na Iignite, o MongoDB anunciou um novo passo em seu relacionamento com a integração do MongoDB Atlas com o Microsoft Azure OpenAI Service. Essa integração significativa é um testamento do compromisso de nossa colaboração e serve como um objetivo para ajudar os clientes na criação de aplicativos AI de IA generativa baseados em dados corporativos, proporcionando interações ricas e significativas com o usuário.
A geração aumentada por recuperação ( RAGRAG) está se tornando a norma para aplicativos de AI IA generativa . Sem o RAG, os modelos de linguagem grandes (LLMs) só podem responder com base nos dados públicos nos quais foram formados. Esta é uma limitação significativa e inibe o uso desses LLMs para casos de uso de produção. O RAG ajuda a superar esse desafio baseando o LLM nos dados de propriedade da empresa dos quais o LLM não tinha conhecimento de outra forma.
Azure O serviço Azure OpenAI ajuda a criar aplicativos de AI IA generativa escolhendo modelos poderosos, como GPT-4o, e adicionando mais contexto aos LLMs a partir de dados corporativos, que agora podem ser do MongoDB Atlas, para obter mais conversas relevantes e perspicazes. Azure O Azure OpenAI Service está disponível como API API , SDK e no Azure AI Azure AIFoundry. Assim, os clientes que usam Azure AI o Azure AIFoundry agora podem adicionar o índice vetorial do MongoDB Atlas no playground do bate-papo e avaliar os LLMs com os dados vetoriais armazenados nas coleções do MongoDB Atlas . A API pode ser invocada diretamente a partir de aplicativos para criar facilmente aplicativos RAG baseados em dados do MongoDB Atlas .
Azure AI O Azure AIFoundry é um bom ponto de ponto para empresas que visam criar AI aplicativos de IA generativa inovadores de forma segura e responsável. O catálogo de modelos no Azure AI Azure AIFoundry é um centro de modelos do Azure Azure OpenAI Service e de outros fornecedores importantes, oferecendo modelos de base, abertos, de tarefas e específicos do setor. AAI AI Fundry oferece suporte a todo o ciclo de vida do projeto de um aplicação de IA,AI começando na avaliação e benchmarking do modelo, na personalização do aplicação, na criação de fluxo e depuração, até o gerenciamento de aplicativos AI de IA generativa sem comprometer a segurança e seguir as AI melhores práticas de IA responsável. Por outro lado, o MongoDB Atlas é um dos document model bancos de dados de modelos de documento mais populares do mundo, com recursos nativos de pesquisa vetorial. O MongoDB Atlas Vector Search foi reconhecido pela Pesquisa Retool como um líder com a maior Pontuação de Promultador Líquido (NPS) em 2023 2024e. O MongoDB Atlas armazena dados vetoriais junto com dados operacionais sem qualquer sobrecarga adicional, devido ao seu modelo de dados de documento inerentemente flexível. O MongoDB Atlas oferece suporte a pesquisas de texto completo e híbridas, juntamente com pesquisa vetorial em nós de pesquisa dedicados no Azure, o Azure que garante que as cargas de trabalho operacionais não sejam afetadas por AI cargas de trabalho de aplicação de IA generativa .
O MongoDB Atlas é preferido como banco de banco de dados vetorial para aplicativos RAG, pois pode armazenar vetores perfeitamente com o restante dos dados operacionais, o que significa nenhum ETL, complexidade arquitetônica reduzida e redução de custos. A pesquisa vetorial nativa do MongoDB usa a API uniforme do MongoDB , o que implica que ela pode ser combinada com outras construções da MongoDB Query API para habilitar a pré-filtragem e a pós-filtragem. O MongoDB Atlas foi projetado para oferecer confiabilidade, escalabilidade e segurança, que são de fundamental importância quando se trata de aplicativos de IA generativa AI . Habilitar o acesso fácil aos dados do MongoDB por meio do Azure OpenAI Service torna as implementações de RAG possíveis até mesmo para não desenvolvedores.
O diagrama abaixo mostra a arquitetura RAG implementada por meio dessa integração. A pergunta do usuário é convertida em incorporações usando um modelo de incorporação como "text-embedding-ada-002. " No estágio de recuperação, as incorporações referentes à consulta do usuário são usadas para uma pesquisa vetorial no MongoDB Atlas para obter chunks semelhantes da coleção do MongoDB Atlas . No estágio Augmented, esses chunks recuperados do MongoDB Atlas são adicionados à query de usuário real como contexto para criar um prompt para o LLM. No estágio de Geração, o LLM é invocado passando o prompt aumentado e agora o LLM responde à query baseada no contexto fornecido no prompt. O resultado é que, agora, o LLM fornece respostas precisas e relevantes. Consulte as citações para ver quais dados foram recuperados do MongoDB Atlas que levaram à resposta fornecida pelo LLM.
A integração está disponível como uma API REST REST API que pode ser invocada a partir de seus aplicativos como qualquer outra API REST API REST. Os desenvolvedores precisam adicionar as informações de collection e índice vetorial do MongoDB nas especificações da carga útil, juntamente com o prompt e as informações de mensagem/função do sistema ao invocar a API. A API retornará a resposta junto com as citações que ponto para os blocos recuperados do banco de banco de dados vetorial MongoDB junto com os metadados do bloco para facilitar a verificação cruzada.
A integração pode ser acessada a partir do playground do AI bate-papo no AIFoundry. São alguns cliques LLM na experiência do assistente para ponto o LLM para usar os dados da coleção do MongoDB Atlas ao responder às queries, proporcionando uma AI experiência aprimorada de IA. O MongoDB Atlas está disponível no menu suspenso na experiência "Add your data " no playground de bate-papo do portal. Os usuários só precisam selecionar o MongoDB Atlas e ponto para o índice vetorial do Atlas para aproveitar a capacidade robusta de pesquisa vetorial do MongoDB Atlas e equipe os LLMs com as informações precisas necessárias para responder às queries. Isso torna a criação de chatbots e co-pilotes para aplicativos internos ou portais voltados para o cliente extremamente fácil.
Assista ao vídeo para ver uma demonstração da integração no Azure AI Azure AIFoundry e testemunhe como agora é fácil trazer seus dados valiosos no MongoDB Atlas para seus LLMs para criar experiências de conversação elegantes.
Junte-se à estrutura do MongoDB AI AI Applications Program (MAAP) para acelerar sua AI mudança de IA e deixe o MongoDB ajudá-lo a levar seu AI aplicação de IA da idealização à produção.
Principais comentários nos fóruns
Ainda não há comentários sobre este artigo.
Avalie esse anúncio