Navigieren in der Welt der künstlichen Intelligenz: So nutzt der Finanzsektor generative KI

In der sich ständig weiterentwickelnden Landschaft der Finanztechnologie gewinnt die Diskussion um künstliche Intelligenz (KI) und insbesondere um generative KI an Dynamik. KI ist schon seit Jahrzehnten Teil der Finanzlandschaft, aber mit den Fortschritten in der generativen KI ergeben sich größere Vorteile, aber auch Risiken, die Finanzinstitute in einer derart regulierten Branche berücksichtigen müssen.

Auch wenn die potenziellen Vorteile der generativen KI beträchtlich sind und die Übernahme durch viele noch in Erwägung gezogen wird, ist ein überlegtes Vorgehen erforderlich, wenn es darum geht, von einem Proof-of-Concept zur Produktion überzugehen. In einer Ausgabe der Fintech Finance News Virtual Arena diskutierten mehrere namhafte Branchenvordenker von HSBC, Capgemini und MongoDB darüber, wie der Finanzsektor generative KI nutzen kann und was Finanzinstitute bei ihrer KI-Strategie beachten müssen.

Sehen Sie sich die Podiumsdiskussion „Wie kann der Finanzsektor heute generative KI nutzen“ mit HSBC, MongoDB und Capgemini an. Erfahren Sie mehr von:

• EJ Achtner, Office of Applied Artificial Intelligence bei HSBC

• Dan Pears, Vice President, UK Practice Lead bei Capgemini

• Wei You Pan, Director, Financial Services Industry Solutions bei MongoDB

• Doug Mackenzie, Chief Content Officer bei FF News

Bewältigung der Herausforderungen der generativen KI

Während sich Finanztechnologen schon immer mit hartnäckigen Problemen wie Risikomanagement und Governance auseinandersetzen mussten, bringt der Einsatz generativer KI in der Finanztechnologie neue Herausforderungen mit sich, mit denen sich KI-Spezialisten schon immer auseinandergesetzt haben, wie inhärenten Bias und ethische Bedenken. Eine Herausforderung für die generative KI ist die Halluzination – die Generierung von Inhalten, die weder akkurat noch sachlich sind oder die reale Welt widerspiegeln. KI-Modelle können Informationen produzieren, die zwar plausibel klingen, aber völlig fiktiv sind.

Generative KI-Modelle, insbesondere im Bereich der Verarbeitung natürlicher Sprache, können Texte generieren, die zwar kohärent und kontextuell angemessen sind, denen es aber an sachlicher Genauigkeit fehlt. Dies bringt Herausforderungen in verschiedenen Bereichen mit sich, darunter Fehlinformationen und die Zuverlässigkeit von Inhalten. Beispiele für solche Herausforderungen oder Risiken umfassen:

• Irreführende Ratschläge zur Finanzplanung: Bei der Finanzberatung können halluzinierte Informationen zu einer irreführenden Beratung führen, die unerwartete Risiken oder verpasste Chancen mit sich bringt.

• Falsche Risikobewertungen bei der Kreditvergabe: Ungenaue Risikoprofile können zu schlechten Risikobewertungen für Kreditantragsteller führen, die ein Finanzinstitut dazu veranlassen können, einen Kredit mit einem höheren Ausfallrisiko zu genehmigen, als das Unternehmen normalerweise akzeptieren würde.

• Sensible Informationen im generierten Text: Bei der Generierung von Text können die Modelle versehentlich sensible Informationen aus den Trainingsdaten enthalten. Angreifer können Eingabeaufforderungen erstellen, um das Modell dazu zu bringen, Ausgaben zu erzeugen, die vertrauliche Details aus dem Trainingskorpus enthüllen.

Es ist daher von entscheidender Bedeutung, dass Finanzinstitute die technologischen Auswirkungen, den Umfang und die Komplexität von KI verstehen, insbesondere die generative KI-Strategie. Ein strategischer und umfassender Ansatz, der verschiedene Aspekte der Technologie, der Daten, der Ethik und der organisatorischen Bereitschaft einbezieht, ist entscheidend. Im Folgenden finden Sie einige wichtige Überlegungen, die Finanzinstitute bei der Einführung einer solchen Strategie berücksichtigen müssen:

• Eindämmung von Halluzinationen: Die Eindämmung von Halluzinationen in der generativen KI ist eine schwierige Aufgabe, aber es gibt verschiedene Strategien und Techniken, die das Risiko der Erzeugung ungenauer oder irreführender Informationen verringern. Eine vielversprechende Strategie ist die Verwendung des RAG-Ansatzes (Retrieval Augmented Generation), um Halluzinationen in generativen KI-Modellen zu verringern. Dieser Ansatz beinhaltet die Einbeziehung von Mechanismen zur Informationsbeschaffung, um den Generierungsprozess zu verbessern und sicherzustellen, dass die generierten Inhalte auf realem Wissen beruhen. Vector Search ist ein beliebter Mechanismus zur Unterstützung der Implementierung der RAG-Architektur, der die Vektorsuche verwendet, um relevante Dokumente auf der Grundlage der Eingabeabfrage abzurufen. Die abgerufenen Dokumente werden dann den Large Language Models (LLM) als Kontext zur Verfügung gestellt, um eine fundiertere und genauere Antwort zu generieren.

• Datenqualität und -verfügbarkeit: Treten Sie einen Schritt zurück, bevor Sie KI einsetzen, um sicherzustellen, dass die Qualität, Relevanz und Genauigkeit der Daten, die für das KI-Training und die Entscheidungsfindung verwendet werden, in Echtzeit abgerufen werden können.

• Weiterbildung: Investitionen in Schulungsprogramme sind der Schlüssel, um die Qualifikationslücke im Bereich der KI zu schließen und sicherzustellen, dass die Arbeitskräfte in der Lage sind, KI-Technologien zu verwalten, zu interpretieren und mit ihnen zusammenzuarbeiten. Damit der Einsatz von KI erfolgreich sein kann, ist eine Kultur des Lernens und der Entwicklung unerlässlich, die den Mitarbeitern die Werkzeuge an die Hand gibt, die sie benötigen, um für ihre persönliche und berufliche Entwicklung optimal vorbereitet zu sein. Darüber hinaus sind die Förderung des Bewusstseins für potenzielle Schwachstellen und die kontinuierliche Verfeinerung der Modelle, um ihre Widerstandsfähigkeit gegen Halluzinationen, Verzerrungen, gegnerische Manipulationen und andere Schwachstellen zu verbessern, für den Erfolg generativer KI-Anwendungen unerlässlich.

• Entwickeln Sie neue Governance, Frameworks und Kontrollen: Schaffen Sie vor der Inbetriebnahme sichere Umgebungen zum Testen und Lernen, in denen Sie schnell und sicher Fehler machen können. Wenn Sie kopfüber in die Produktion einsteigen und direkten Kontakt mit den Kunden haben, kann das dazu führen, dass die falschen Governance-Methoden eingesetzt werden.

• Monitoring und kontinuierliche Verbesserung: Implementieren Sie robuste Überwachungssysteme, um die finanziellen Auswirkungen, die Auswirkungen von Veränderungen, das Ausmaß und die Komplexität im Zusammenhang mit der Einführung von KI zu messen und zu verstehen.

• Skalierbarkeit und Integration: Entwerfen Sie KI-Systeme mit Blick auf Skalierbarkeit, um wachsende Datensätze und sich verändernde Anforderungen zu bewältigen.

• Sicherheit und Datenschutz: Implementieren Sie robuste Cybersicherheitsmaßnahmen, um KI-Modelle und die Daten, auf denen sie basieren, zu schützen. Techniken wie das gegnerische Training, die Bereinigung von Eingaben und die Integration von Mechanismen zur Wahrung der Privatsphäre können das Risiko verringern, dass generative KI versehentlich private Daten preisgibt. Pläne zur Reaktion auf Vorfälle sollten Teil der Cybersicherheitsmaßnahmen sein, ebenso wie die regelmäßige Aufklärung der relevanten Stakeholder über Sicherheit und Datenschutz.

Wie MongoDB Ihnen helfen kann, Ihre Datenherausforderungen zu meistern

Bei der Einführung fortschrittlicher Technologien wie KI und ML, die Daten als Grundlage benötigen, haben Unternehmen oft mit der Herausforderung zu kämpfen, diese Innovationen in bestehende Systeme zu integrieren, insbesondere wenn es um Anwendungsfälle wie Betrugsprävention geht, bei denen die Plattform mit externen Quellen für eine genaue Datenanalyse auf der Grundlage vollständiger Daten integriert wird. Die Inflexibilität bestehender Systeme ist ein erhebliches Problem, das die nahtlose Integration von Spitzentechnologien behindert. MongoDB dient als operativer Datenspeicher (ODS) mit einem flexiblen Dokumentenmodell und ermöglicht es Finanzinstituten, große Datenmengen in Echtzeit effizient zu verarbeiten. Durch die Integration von MongoDB in KI-/ML-Plattformen können Unternehmen Modelle entwickeln, die auf den genauesten und aktuellsten Daten trainiert sind, und so den entscheidenden Bedarf an Anpassungsfähigkeit und Agilität angesichts der sich weiterentwickelnden Technologien erfüllen.

Altsysteme, die sich durch ihre Inflexibilität und Änderungsresistenz auszeichnen, stellen eine weitere Herausforderung dar, wenn es darum geht, KI zu nutzen, um das Kundenerlebnis zu verbessern und die betriebliche Effizienz zu steigern. Auch die Integration ist schwierig, insbesondere im Finanzsektor, wo die Ungewissheit der sich mit der Zeit entwickelnden KI-Modelle eine skalierbare Infrastruktur erfordert. Die Entwicklerdatenplattform von MongoDB ist mit ihrem flexiblen Datenschema, das jede Datenstruktur, jedes Format und jede Quelle aufnehmen kann, zukunftssicher für Unternehmen. Diese Flexibilität erleichtert die nahtlose Integration mit verschiedenen KI-/ML-Plattformen und ermöglicht es Finanzinstituten, sich an Veränderungen in der KI-Landschaft anzupassen, ohne umfangreiche Änderungen an der Infrastruktur vornehmen zu müssen.

Bedenken hinsichtlich der Sicherheit von Kundendaten, insbesondere wenn diese über APIs an Dritte weitergegeben werden, erschweren die Einführung innovativer KI-Technologien zusätzlich. Altsysteme können der Innovation im Wege stehen, da sie aufgrund veralteter Sicherheitsmaßnahmen oft anfälliger für Sicherheitsbedrohungen sind. Die moderne Entwicklerdatenplattform von MongoDB begegnet diesen Herausforderungen mit integrierten Sicherheitskontrollen für alle Daten. Unabhängig davon, ob MongoDB in einer Kundenumgebung oder über MongoDB Atlas, einen vollständig verwalteten Cloud-Service, verwaltet wird, gewährleistet MongoDB zuverlässige Sicherheit mit Funktionen wie Authentifizierung (Single Sign-On und Multi-Faktor-Authentifizierung), rollenbasierten Zugriffskontrollen und umfassender Datenverschlüsselung. Diese Sicherheitsmaßnahmen dienen dem Schutz sensibler Finanzdaten, vermindern das Risiko eines unbefugten Zugriffs von außen und geben Unternehmen das nötige Vertrauen, um KI- und ML-Technologien zu nutzen.