Atlas Vector Search obtiene el NPS más alto para desarrolladores en la encuesta Retool State of AI 2023

Retool acaba de publicar su primer informe sobre el estado de la IA y merece la pena leerlo. Inspirada en su popular informe State of Internal Tools, la encuesta State of AI tomó el pulso de más de 1,500 técnicos que abarcan ingeniería de software, liderazgo, gerentes de producto, diseñadores y más provenientes de una variedad de industrias. El propósito de la encuesta es entender cómo esta gente de tecnología usa y construye con inteligencia artificial (IA).

Como parte de la encuesta, Retool averiguó qué herramientas eran populares, incluidas las bases de datos vectoriales que se utilizan con mayor frecuencia con IA. La encuesta encontró que MongoDB Atlas Vector Search tenía el Net Promoter Score (NPS) más alto y era la segunda base de datos de vectores más utilizada, tan solo cinco meses después de su versión. Esto lo coloca por delante de las soluciones de la competencia que han existido durante años.

En esta publicación de blog, examinaremos el fenomenal aumento de las bases de datos vectoriales y cómo los desarrolladores están utilizando soluciones como Atlas Vector Search para crear aplicaciones impulsadas por IA. También cubriremos otros aspectos destacados clave del informe Retool.

Adopción de bases de datos vectoriales: fuera de Charts (bueno, casi...)

Desde la curiosidad matemática hasta la superpotencia detrás de la IA generativa y los LLM, las incorporaciones de vectores y las bases de datos que las managed han recorrido un largo camino en muy poco tiempo.

Consulte las tendencias de DB-Engines en modelos de bases de datos durante los últimos 12 meses y verá que las bases de datos vectoriales están muy por encima de todas las demás en cuanto a cambios de popularidad. Basta con mirar la trayectoria "hacia arriba y hacia la derecha" de la línea rosa en los gráficos a continuación.

Pero, ¿por qué las bases de datos vectoriales se han vuelto tan populares?

Son un componente clave en un nuevo patrón arquitectónico llamado generación aumentada de recuperación, también conocida como RAG, una mezcla potente que combina las capacidades de razonamiento de LLM pre-entrenadas y de propósito general y les proporciona datos específicos de la compañía en tiempo real. Los resultados son una aplicación impulsada por IA que sirven de manera única al negocio, ya sea creando nuevos productos, reinventando la experiencia del cliente o impulsando la productividad y eficiencia internas a niveles sin precedentes.

Las incrustaciones vectoriales son uno de los componentes fundamentales necesarios para liberar el poder de RAG. Los modelos de incrustación de vectores codifican datos de la empresa, ya sean texto, código, vídeo, imágenes, transmisión de audio o tablas, como vectores. Luego, esos vectores se almacenan, clasifican y consultan en una base de datos de vectores o en un motor de búsqueda de vectores, proporcionando los datos de entrada relevantes como contexto para el LLM elegido. El resultado es una aplicación de IA (en este contexto móvil); también válido: aplicación basada en datos y conocimientos de la empresa que sean relevantes para el negocio, precisos, confiables y actualizados.

Como muestra la encuesta de Retool, el panorama de la base de datos vectorial sigue siendo en gran medida un campo nuevo. Menos del 20% de los encuestados utilizan bases de datos vectoriales hoy en día, pero con la tendencia creciente hacia la personalización de modelos e infraestructura de IA, se garantiza que la adopción crecerá.

¿Por qué los desarrolladores están adoptando Atlas Vector Search?

La encuesta sobre el estado de la IA de Retool presenta algunas excelentes bases de datos vectoriales que han abierto un camino en los últimos años, especialmente en aplicaciones que requieren búsqueda semántica consciente del contexto. Piense en catálogos de productos o descubrimiento de contenido.

Sin embargo, el desafío que enfrentan los desarrolladores al utilizar esas bases de datos vectoriales es que tienen que integrarlas junto con otras bases de datos en la pila tecnológica de su aplicación.

Cada capa de base de datos adicional en la pila tecnológica de la aplicación agrega otra fuente de complejidad, latencia y gastos operativos generales. Esto significa que tienen otra base de datos para adquirir, aprender, integrar (para desarrollo, pruebas y producción), proteger y certificar, escalar, monitorear y realizar copias de seguridad, y todo esto mientras mantienen los datos sincronizados en estos múltiples sistemas.

MongoDB adopta un enfoque diferente que evita estos desafíos por completo:

• Los desarrolladores almacenan y buscan incrustaciones de vectores nativos en el mismo sistema que utilizan como base de datos operativa.

• Al utilizar la arquitectura distributed de MongoDB, pueden aislar estas diferentes cargas de trabajo mientras mantienen los datos completamente sincronizados.

• Search Nodes proporcionan computación dedicada y aislamiento de cargas de trabajo que es vital para cargas de trabajo de búsqueda vectorial con uso intensivo de memoria, lo que permite un mejor rendimiento y una mayor disponibilidad.

• Con el esquema de documento dinámico y flexible de MongoDB, los desarrolladores pueden modelar y desarrollar relaciones entre vectores, metadatos y datos de aplicaciones de maneras que otras bases de datos no pueden.

• Pueden procesar y filtrar datos vectoriales y operativos de cualquier forma que la aplicación necesite con una API de consulta expresiva y controladores que brindan asistencia técnica a todos los lenguajes de programación más populares.

• El uso de la plataforma de datos para desarrolladores MongoDB Atlas, totalmente gestionada, permite a los desarrolladores lograr la escalabilidad, la seguridad y el rendimiento que esperan los usuarios de sus aplicaciones.

¿Qué significa este enfoque unificado para los desarrolladores? Ciclos de desarrollo más rápidos, aplicaciones de mayor rendimiento que proporcionan menor latencia con datos más actualizados, junto con menores costos y gastos operativos generales. Resultados que se reflejan en la mejor puntuación NPS de su clase de MongoDB.

Consulte nuestra serie blog Construyendo IA con MongoDB (diríjase a la sección Introducción para ver los números anteriores). Aquí verá Atlas Vector Search utilizado para aplicaciones impulsadas por GenAI que abarcan IA conversacional con chatbots y voicebots, copilotos, inteligencia de amenazas y ciberseguridad, gestión de contratos, respuesta a preguntas, asistentes de tratamiento y cumplimiento de atención médica, descubrimiento de contenido y monetización, y más.

¿Qué puede aprender sobre el estado de la IA en el informe de Retool?

Más allá de descubrir las bases de datos vectoriales más populares, la encuesta cubre la IA desde una variedad de perspectivas. Comienza explorando las percepciones de los encuestados sobre la IA. (Como era de esperar, el C-suite es más alcista que los contribuyentes individuales). Luego explora las prioridades de inversión, el impacto de la IA en las perspectivas laborales futuras y cómo afectará probablemente a los desarrolladores y las habilidades que necesitan en el futuro.

Luego, la encuesta explora el nivel de adopción y madurez de la IA. Más del 75% de los encuestados dicen que sus empresas están haciendo esfuerzos para comenzar con la IA, y alrededor de la mitad dice que estos todavía eran proyectos iniciales, y principalmente orientados a aplicaciones internas. La encuesta continúa para examinar cuáles son esas aplicaciones y qué tan útiles piensan los encuestados que son para el negocio. Encuentra que casi todo el mundo usa IA en el trabajo, ya sea que se les permita o no, y luego identifica los principales puntos débiles. No es de extrañar que la precisión del modelo, la seguridad y las alucinaciones encabecen esa lista.

La encuesta concluye explorando los mejores modelos en uso. Una vez más, no sorprende que las ofertas de Open AI estén liderando el camino, pero también indica una creciente intención de utilizar modelos de código abierto junto con infraestructura de AI y herramientas para personalización en el futuro.

Puedes profundizar en todos los detalles de la encuesta leyendo el informe.

Introducción con Atlas Vector Search

¿Deseas echar un vistazo a nuestra oferta de búsqueda vectorial? Dirígete a nuestra página de productos Atlas Vector Search. Allí encontrarás enlaces a tutoriales, documentación e integraciones clave del ecosistema de IA para que puedas sumergirte directamente en la creación de tu propia aplicación impulsada por GenAI.