Okta unterstützt Anfragen in natürlicher Sprache mit MongoDB Vector Search auf Atlas

EINLEITUNG

Intelligentes Identitäts- und Sicherheitsmanagement für Unternehmen

In einer idealen Welt würden unsere Geräte uns sofort erkennen und uns Zugriff auf unsere Apps und Dokumente gewähren – während sie unsere Informationen vor allen anderen schützen. Als Netzwerke noch privat waren und die Mitarbeiter im Büro arbeiteten, war die Sicherheit für Unternehmen relativ einfach zu verwalten. Doch heute, mit dem Wechsel in die Cloud und der Zunahme von Remote-Arbeit, sind Sicherheit und Identitätsmanagement weitaus komplexer.

Als weltweit führender Anbieter von Identitätssicherheit strebt Okta danach, jedem die sichere Nutzung jeder Technologie auf jedem Gerät zu ermöglichen, alles gestützt durch die eigene Identität. Mit weltweit mehr als 18.000 Kunden hat Okta Integrationen für mehr als 7.000 Anwendungen entwickelt.

Um seine Bemühungen im Bereich Identitätsverwaltung und -administration voranzutreiben, übernahm Okta 2021 die Workplace-Operations-Plattform atSpoke. Nach der Umbenennung in Okta Inbox ermöglicht die Plattform eine einfache Beantragung des Zugriffs auf Anwendungen. So ermöglicht die integrierte künstliche Intelligenz von Okta Inbox beispielsweise, dass Benutzer Anfragen in natürlicher Sprache eingeben können, um schnell und einfach das zu finden, was sie benötigen.

„Wir sind kundenorientiert.“ Es liegt in unserer DNA, vom oberen Management bis zum Entwicklungsteam. „Alles, was wir tun, ist darauf ausgelegt, unseren Kunden zu helfen, schneller zu arbeiten und sicher zu bleiben“, sagt Suchit Agarwal, Director of Engineering bei Okta.

DIE HERAUSFORDERUNG

Eine skalierbare Methode zum Unterstützen von Abfragen in natürlicher Sprache finden

Um Okta Inbox zu erstellen, schrieb Okta Code und entwickelte manuell Machine-Learning-Modelle, um Abfragen in natürlicher Sprache zu ermöglichen. Diese Modelle generieren Vektoreinbettungen, eine Reihe gewichteter Werte, die die qualitativen und quantitativen Aspekte eines Datensatzes erfassen.

Der Ansatz war zwar effektiv, benötigte jedoch mit dem Wachstum des Unternehmens mehr Skalierbarkeit und schränkte die Experimentierfreudigkeit des Teams ein. Wenn man beispielsweise eine vektorisierte Sammlung von Apps mithilfe natürlicher Sprache durchsucht, würde das Modell für maschinelles Lernen erkennen, dass Begriffe wie „Video-Konferenzen“, „Videoanruf tätigen“ oder „Konferenzschaltung“ sich auf die bevorzugte Kommunikations-App des Unternehmens beziehen.

Die Machine-Learning-Modelle und Einbettungen von Okta wurden auf einem dedizierten Kubernetes-Cluster verwaltet und gewartet. Vektoren müssen jedoch entweder in einer dedizierten Vector Database gespeichert werden – was zusätzliche Kosten und einen zu wartenden Lösungsansatz bedeutet – oder es muss eine zusätzliche Such-Engine mit Vektorsuchfunktionalität installiert werden. Die Anpassung der Umgebung zur Leistungssteigerung würde zusätzliche Gebühren verursachen und Entwickler von anderen Aufgaben abhalten.

DIE LÖSUNG

Automatisierung von Einbettungen und Optimierung von Algorithmen

Als Okta einen ersten Blick auf MongoDB Vector Search on Atlas warf, erkannte das Unternehmen, dass die Automatisierung der manuellen Arbeit, die den Abfragen in natürlicher Sprache zugrunde liegt, es den Entwicklern ermöglichen würde, sich auf Innovationen zu konzentrieren.

„MongoDB Vector Search auf Atlas war die Antwort auf unsere Probleme. Es vereinfacht einen Großteil der Arbeit, die erforderlich ist, um Okta Inbox für Kunden äußerst benutzerfreundlich zu machen“, sagte Agarwal. „Es war großartig, eine Lösung zu finden, die sich so einfach in MongoDB Atlas integrieren lässt. Wir mussten keine Kompromisse bei einer einheitlichen Datenplattform eingehen.“

Anstatt eine individuelle Lösung für das Einbetten von Speicher zu bauen, konnten Einbettungen nun in MongoDB Atlas in Sammlungen gespeichert werden. Bei einer entsprechenden Aufforderung fragt MongoDB Vector Search auf Atlas Embeddings ab, um schnell und einfach die richtige App zu finden. Beim vorherigen Ansatz verließ sich Okta für diese Art von Abfragen auf selbst entwickelte Suchalgorithmen. MongoDB Atlas bot eine effiziente Datenschicht, die diese Vorgänge vereinfachte.

„Okta Inbox weiß, auf welche App der Benutzer Zugriff anfordert, und erstellt automatisch ein Ticket, um die Anfrage zu bearbeiten“, erklärte Agarwal. „Es erhält Tausende von Anfragen über unsere Chatbots, und wir müssen nicht mehr manuell Tausende von Texteinbettungen verarbeiten, um diese Anfragen zu lösen.“

Wenn das Team nicht an der Entwicklung arbeitet, nutzt es die Analysen und Dashboards von MongoDB Atlas, um die Leistung zu überwachen und zu identifizieren, wo Abfragen für mehr Kosteneffizienz optimiert werden können. Letztendlich hilft MongoDB Atlas Okta dabei, sich auf die wichtigsten Themen zu konzentrieren und Innovationen zu beschleunigen.

„Da wir uns nicht mehr um Backups, Upgrades und Skalierung kümmern müssen, kann sich mein Team auf die Entwicklung neuer Produkte konzentrieren, die unsere strategische Roadmap unterstützen“, sagte Agarwal. Mit der zusätzlichen Zeit, die ihnen MongoDB Atlas verschafft, können Agarwal und sein Team Okta-Lösungen feinabstimmen und mit verschiedenen Modellen experimentieren – und dabei die Betriebskosten auf ein Minimum beschränken. „Wir können viele Algorithmen gleichzeitig ausführen, um sie zu vergleichen und gegenüberzustellen, was besser ist. Das beschleunigt die Optimierung, wovon der Kunde profitiert“, fügte Agarwal hinzu.

DAS ERGEBNIS

Großartige Funktionalität mit 30 % Kosteneinsparungen

Mit MongoDB Atlas und MongoDB Vector Search auf Atlas kann sich Okta auf die Entwicklung großartiger neuer Produkte konzentrieren und Kunden eine exzellente Benutzererfahrung bieten. Darüber hinaus weiß Okta, dass seine Datenbank robust und skalierbar genug ist, um die wachsende Nachfrage zu bewältigen.

„MongoDB Atlas ist flexibel. Man kann sich nicht selbst in eine Sackgasse manövrieren, indem man etwas entwickelt, das die eigene Datenbank nicht bewältigen kann. Neue Produkte werden stark angenommen, und wir wissen, dass unsere Datenbank niemals der Engpass sein wird, der die Kundenerfahrung unterbricht“, sagte Agarwal.

MongoDB hilft Okta zudem dabei, sich auf die schnelle Bereitstellung von mehr Mehrwert zu konzentrieren. Da sie keine zusätzliche Infrastruktur betreiben müssen, können Entwickler schneller iterieren, und die vereinfachte Umgebung von MongoDB Atlas ist schlanker, aber dennoch leistungsfähiger und weniger fehleranfällig.

„MongoDB nimmt meinem Team die Verwaltungsarbeit ab. Entwickler sind viel zufriedener, wenn sie sich auf die Optimierung der Datenbank konzentrieren können, anstatt sie zu warten“, erklärte Agarwal. „Wir sind zudem auf dem besten Weg, die Betriebskosten im Vergleich zur selbst gehosteten Lösung um 30 % zu senken.“

Okta Inbox ist jetzt live auf MongoDB Vector Search auf Atlas, und der Übergang verlief reibungslos und ohne Probleme.

„Wir befinden uns auf einer spannenden Reise mit MongoDB. Das Team hat uns bei jedem Schritt sehr engagiert unterstützt. Sie sind äußerst reaktionsschnell, transparent und arbeiten kooperativ zusammen“, merkt Agarwal an. „Mit ihrer Unterstützung können wir neue Ideen und Funktionen iterieren und schneller auf den Markt bringen.“

Wie geht es weiter?

Um mehr darüber zu erfahren, wie andere Innovationen mit KI vorantreiben, sehen Sie sich die Fallstudienreihe Building AI with MongoDB an. Sie können sich auch für MongoDB Atlas registrieren und die „MongoDB Vector Search on Atlas“-Schnellstartanleitung aufrufen, um mit der Erstellung intelligenterer Suchvorgänge zu beginnen oder um generative KI in Ihrem nächsten Projekt einzusetzen.