Atlas Vector Search erzielt den höchsten Entwickler-NPS in der Retool State of AI 2023-Umfrage

Mat Keep and Rachelle Palmer

Retool hat gerade seinen allerersten „State of AI“-Bericht veröffentlicht und es lohnt sich, ihn zu lesen. Nach dem Vorbild des beliebten „State of Internal Tools“-Berichts hat die „State of AI“-Umfrage den Puls von über 1.500 Technikern aus den Bereichen Softwareentwicklung, Führung, Produktmanager, Designer und mehr aus einer Vielzahl von Branchen erfasst. Der Zweck der Umfrage ist es, zu verstehen, wie diese Technologieexperten künstliche Intelligenz (KI) nutzen und sie einsetzen.

Im Rahmen der Umfrage hat Retool untersucht, welche Tools beliebt sind und welche Vektordatenbanken am häufigsten für KI verwendet werden. Die Umfrage ergab, dass MongoDB Atlas Vector Search den höchsten Net Promoter Score (NPS) aufwies und die am zweithäufigsten genutzte Vektordatenbank war – und das nur fünf Monate nach ihrer Veröffentlichung. Damit ist es konkurrierenden Lösungen, die bereits seit Jahren auf dem Markt sind, weit voraus.

In diesem Blogbeitrag untersuchen wir den phänomenalen Aufstieg von Vektordatenbanken und wie Entwickler Lösungen wie Atlas Vector Search nutzen, um KI-gestützte Anwendungen zu erstellen. Wir werden auch andere wichtige Highlights aus dem Retool-Bericht behandeln.

Schauen Sie sich unsere KI-Ressourcenseite an, um mehr über die Erstellung KI-gestützter App mit MongoDB zu erfahren.

Einführung von Vektordatenbanken: Jenseits der Charts (na ja, fast ...)

Von einer mathematischen Kuriosität zur Supermacht hinter generativer KI und LLMs haben Vektoreinbettungen und die Datenbanken, die sie verwalten, in kurzer Zeit einen langen Weg zurückgelegt.

Schauen Sie sich die DB-Engine-Trends bei den Datenbankmodellen in den letzten 12 Monaten an, und Sie werden sehen, dass Vektordatenbanken in der Beliebtheit ganz weit vorne liegen. Sehen Sie sich den Verlauf der rosafarbenen Linie „nach oben und rechts“ im Chart unten an.

Screenshot mit freundlicher Genehmigung von DB-Engines, 8. November 2023

Aber warum sind Vektordatenbanken so beliebt geworden?

Sie sind eine Schlüsselkomponente in einem neuen Architekturmuster, das als Retrieval-Augmented Generation (RAG) bezeichnet wird – ein potenter Mix, der die Schlussfolgerungsfähigkeiten von vortrainierten Allzweck-LLMs kombiniert und sie mit unternehmensspezifischen Echtzeitdaten füttert. Das Ergebnis sind KI-gestützte Apps, die dem Unternehmen in einzigartiger Weise dienen – sei es bei der Entwicklung neuer Produkte, bei der Neugestaltung von Kundenerfahrungen oder bei der Steigerung der internen Produktivität und Effizienz auf ein noch nie dagewesenes Niveau.

Vektoreinbettungen sind eine der grundlegenden Komponenten, die erforderlich sind, um die Leistungsfähigkeit von RAG zu erschließen. Vektoreinbettungsmodelle kodieren Unternehmensdaten, egal ob es sich um Text, Code, Video, Bilder, Audio-Streams oder Tabellen handelt, als Vektoren. Diese Vektoren werden dann in einer Vektordatenbank oder einer Vektorsuchmaschine gespeichert, indiziert und abgefragt, um die relevanten Eingabedaten als Kontext für das gewählte LLM bereitzustellen. Das Ergebnis sind KI-Apps, die auf Unternehmensdaten und Wissen basieren, das für das Unternehmen relevant, genau, vertrauenswürdig und aktuell ist.

Wie die Umfrage „Retool“ zeigt, ist die Landschaft der Vektordatenbanken noch weitgehend unerschlossen. Weniger als 20 % der Befragten nutzen heute Vektordatenbanken, aber mit dem wachsenden Trend zur Anpassung von Modellen und KI-Infrastrukturen wird die Akzeptanz garantiert steigen.

Warum setzen Entwickler Atlas Vector Search ein?

In der Retool-Umfrage zum Stand der Künstlichen Intelligenz werden einige großartige Vektordatenbanken vorgestellt, die in den letzten Jahren neue Wege beschritten haben, insbesondere bei Anwendungen, die eine kontextbezogene semantische Suche erfordern. Denken Sie an Produktkataloge oder Content Discovery.

Die Herausforderung für Entwickler bei der Verwendung dieser Vektordatenbanken besteht jedoch darin, dass sie sie neben anderen Datenbanken in den technischen Stack ihrer Anwendung integrieren müssen.

Jede zusätzliche Datenbankschicht im technischen Stack der Anwendung führt zu einer weiteren Quelle von Komplexität, Latenz und betrieblichem Overhead. Das bedeutet, dass sie eine weitere Datenbank beschaffen, erlernen, integrieren (für Entwicklung, Tests und Produktion), sichern und zertifizieren, skalieren, überwachen und sichern müssen, und das alles, während sie die Daten in diesen verschiedenen Systemen synchron halten.

MongoDB verfolgt einen anderen Ansatz, der diese Herausforderungen vollständig vermeidet:

  • Entwickler speichern und durchsuchen native Vektoreinbettungen in demselben System, das sie auch für ihre operative Datenbank verwenden.

  • Mit der verteilten Architektur von MongoDB können sie diese verschiedenen Workloads isolieren, während die Daten vollständig synchronisiert bleiben.

  • Search Nodes bieten dedizierte Rechen- und Workload-Isolierung, die für speicherintensive Vektorsuch-Workloads unerlässlich ist, und ermöglichen so eine verbesserte Leistung und höhere Verfügbarkeit

  • Mit dem flexiblen und dynamischen Dokumentenschema von MongoDB können Entwickler die Beziehungen zwischen Vektoren, Metadaten und Anwendungsdaten auf eine Weise modellieren und weiterentwickeln, wie es andere Datenbanken nicht können.

  • Mit einer ausdrucksstarken Abfrage-API und Treibern, die alle gängigen Programmiersprachen unterstützen, können sie Vektor- und Betriebsdaten auf jede beliebige Weise verarbeiten und filtern, die die Anwendung benötigt.

  • Mit der vollständig verwalteten Entwicklerdatenplattform MongoDB Atlas können Entwickler die Skalierung, Sicherheit und Leistung erreichen, die die Benutzer ihrer Anwendungen erwarten.

Was bedeutet dieser einheitliche Ansatz für Entwickler? Schnellere Entwicklungszyklen, leistungsfähigere Anwendungen mit niedrigeren Latenzzeiten und frischeren Daten, gepaart mit einem geringeren betrieblichen Aufwand und geringeren Kosten. Ergebnisse, die sich im branchenführenden NPS-Wert von MongoDB widerspiegeln.

Atlas Vector Search ist robust, kostengünstig und unglaublich schnell!

Saravana Kumar, CEO, Kovai spricht über die Entwicklung des KI-Assistenten seines Unternehmens

Lesen Sie unsere Blogserie „Building AI with MongoDB“ (im Abschnitt „Erste Schritte“ finden Sie frühere Ausgaben). Hier sehen Sie, wie Atlas Vector Search für GenAI-gestützte Anwendungen eingesetzt wird, die gesprächsorientierte KI mit Chatbots und Voicebots, Co-Piloten, Threat Intelligence und Cybersecurity, Vertragsmanagement, Fragebeantwortung, Compliance im Gesundheitswesen und Behandlungsassistenten, Content Discovery und Monetarisierung und mehr umfassen.

MongoDB speicherte bereits Metadaten über Artefakte in unserem System. Mit der Einführung von Atlas Vector Search verfügen wir nun über eine umfassende Datenbank für Vektor-Metadaten, die sich seit einem Jahrzehnt bewährt hat und unsere dichten Suchanforderungen erfüllt. Wir müssen keine neue Datenbank einrichten, die wir verwalten und erlernen müssten. Unsere Vektoren und Artefakt-Metadaten können direkt nebeneinander gespeichert werden.

Pierce Lamb, Senior Software Engineer im Team für Daten und maschinelles Lernen bei VISO TRUST

Was können Sie aus dem Retool-Bericht über den Stand der KI lernen?

Die Umfrage deckt nicht nur die beliebtesten Vektordatenbanken auf, sondern auch die KI aus einer Reihe von Perspektiven. Zunächst wird untersucht, wie die Befragten die KI wahrnehmen. (Es überrascht nicht, dass die Führungsebene optimistischer ist als einzelne Mitarbeiter). Anschließend werden die Investitionsprioritäten, die Auswirkungen der KI auf die künftigen Berufsaussichten und die Auswirkungen auf die Entwickler und die von ihnen benötigten Fähigkeiten untersucht.

Die Umfrage untersucht dann den Umfang der Einführung und den Reifegrad der KI. Mehr als 75 % der Befragten geben an, dass ihr Unternehmen Anstrengungen unternimmt, um mit KI zu beginnen, wobei etwa die Hälfte angibt, dass es sich dabei noch um frühe Projekte handelt, die hauptsächlich auf interne Anwendungen ausgerichtet sind. Anschließend wird in der Umfrage untersucht, um welche Anwendungen es sich handelt und für wie nützlich die Befragten sie für ihr Unternehmen halten. Sie stellt fest, dass fast jeder bei der Arbeit KI einsetzt, egal ob er es darf oder nicht, und identifiziert dann die größten Schwachstellen. Es ist keine Überraschung, dass Modellgenauigkeit, Sicherheit und Halluzinationen ganz oben auf dieser Liste stehen.

Die Umfrage endet mit einer Untersuchung der im Einsatz befindlichen Top-Modelle. Auch hier ist es keine Überraschung, dass die Angebote von Open AI führend sind, aber es deutet auch auf die wachsende Absicht hin, in Zukunft Open-Source-Modelle zusammen mit KI-Infrastruktur und Tools für die Anpassung zu verwenden.

Sie können sich alle Einzelheiten der Umfrage ansehen, indem Sie den Bericht lesen.

Erste Schritte mit Atlas Vector Search

Möchten Sie einen Blick auf unser Angebot von Vector Search werfen? Besuchen Sie unsere Produktseite für Atlas Vector Search. Dort finden Sie Links zu Tutorials, Dokumentationen und wichtigen KI-Ökosystem-Integrationen, damit Sie direkt mit der Entwicklung Ihrer eigenen GenAI-gestützten Anwendungen beginnen können.

Wenn Sie mehr über die umfassenden Möglichkeiten der Vektorsuche erfahren möchten, laden Sie unser Whitepaper zum Einbetten generativer KI herunter.

In unserer Präsentation Bauen Sie Ihre KI-Roadmap für 2024 erfahren Sie mehr über verschiedene KI-Anwendungsfälle und darüber, wie Unternehmen sich verändern, um sie zu unterstützen!