Naviguer dans la sphère de l'intelligence artificielle : comment le secteur financier peut-il tirer parti de l'IA générative ?

Dans l'univers en constante évolution des technologies financières, le débat sur l'intelligence artificielle (IA), et en particulier sur l'IA générative, prend de plus en plus d'ampleur. L'IA fait partie du paysage financier depuis des décennies, mais les progrès de l'IA générative s'accompagnent de plus grands avantages, mais aussi de risques que les institutions financières doivent prendre en compte dans un secteur aussi réglementé.

Bien que les avantages potentiels de l'IA générative soient considérables et que son adoption par de nombreuses personnes soit encore à l'étude, une approche mesurée est nécessaire pour passer de la preuve de concept à la production. Dans une édition du Fintech Finance News Virtual Arena, plusieurs leaders d'opinion du secteur de HSBC, Capgemini et MongoDB se sont réunis pour déterminer comment le secteur financier pouvait tirer parti de l'IA générative et ce que les institutions financières devaient inclure dans leur stratégie en matière d'IA.

Regardez le débat Comment le secteur financier peut-il tirer parti de l'IA générative aujourd'hui avec HSBC, MongoDB et Capgemini. Les intervenants :

• EJ Achtner, bureau de l'intelligence artificielle appliquée chez HSBC

• Dan Pears, vice-président, chef de pratique au Royaume-Uni chez Capgemini

• Wei You Pan, directeur, solutions pour le secteur des services financiers chez MongoDB

• Doug Mackenzie, directeur de contenu chez FF News

Relever les défis de l'IA générative

Alors que les spécialistes des technologies financières ont toujours dû faire face à des problèmes persistants tels que la gestion des risques et la gouvernance, l'adoption de l'IA générative dans la fintech introduit de nouveaux défis auxquels les spécialistes de l'IA ont toujours été confrontés, tels que les préjugés inhérents et les préoccupations d'ordre éthique. L'un de ces défis est l'hallucination, c'est-à-dire la génération d'un contenu qui n'est ni exact, ni factuel, ni représentatif du monde réel. Les modèles d'IA peuvent produire des informations qui semblent plausibles mais qui sont entièrement fictives.

Les modèles d'IA générative, en particulier dans le domaine du traitement du langage naturel, peuvent générer des textes cohérents et contextuels, mais qui manquent d'exactitude factuelle. Cela pose des problèmes dans différents domaines, notamment la désinformation et la fiabilité du contenu. Voici quelques exemples de ces défis ou risques :

• Conseils financiers trompeurs : dans les services de conseil financier, les informations « hallucinées » peuvent donner lieu à des conseils trompeurs entraînant des risques inattendus ou des opportunités manquées.

• Évaluations incorrectes des risques pour l'octroi de prêts : des profils de risque inexacts peuvent conduire à de mauvaises évaluations des risques pour les demandeurs de prêts, ce qui peut amener une institution financière à approuver un prêt avec un risque de défaillance plus élevé que ce que l'entreprise accepterait normalement.

• Informations sensibles dans le texte généré : lors de la génération de texte, les modèles peuvent inclure par inadvertance des informations sensibles provenant des données d'apprentissage. Les pirates peuvent concevoir des invites d'entrée pour inciter le modèle à générer des sorties qui exposent des détails confidentiels présents dans le corpus d'entraînement.

Il est donc primordial que les institutions financières comprennent l'impact technologique, l'échelle et la complexité associés à l'IA, en particulier la stratégie d'IA générative. Il est essentiel d'adopter une approche stratégique et globale qui englobe divers aspects de la technologie, des données, de l'éthique et de l'état actuel de l'organisation. Voici quelques considérations clés que les institutions financières doivent prendre en compte lorsqu'elles adoptent une telle stratégie :

• Prévention des hallucinations : limiter l'hallucination dans l'IA générative est une tâche difficile, mais plusieurs stratégies et techniques peuvent être employées pour réduire le risque de générer des informations inexactes ou trompeuses. Une stratégie prometteuse consiste à utiliser l'approche Retrieval Augmented Generation (génération augmentée de récupération, RAG) pour atténuer l'hallucination dans les modèles d'IA générative. Cette approche consiste à incorporer des mécanismes de recherche d'informations pour améliorer le processus de génération, en veillant à ce que le contenu généré soit fondé sur des connaissances du monde réel. Vector Search est un mécanisme populaire pour soutenir la mise en œuvre de l'architecture RAG qui utilise la recherche vectorielle pour récupérer les documents pertinents basés sur la requête d'entrée. Il fournit ensuite ces documents récupérés en tant que contexte aux grands modèles de langage (LLM) pour aider à générer une réponse plus éclairée et plus précise.

• Qualité et disponibilité des données : prenez du recul avant d'adopter l'IA pour vous assurer que la qualité, la pertinence et l'exactitude des données utilisées pour l'entraînement de l'IA et la prise de décision sont accessibles en temps réel.

• Éducation : investir dans des programmes de formation est essentiel pour combler le déficit de compétences dans le domaine de l'IA, en veillant à ce que la main-d'œuvre soit équipée pour gérer, interpréter et collaborer avec les technologies de l'IA. Pour que l'adoption de l'IA soit couronnée de succès, il est essentiel d'instaurer une culture de l'apprentissage et du développement, en fournissant aux employés les outils nécessaires pour donner le meilleur d'eux-mêmes dans le cadre de leur développement personnel et professionnel. En outre, la sensibilisation aux vulnérabilités potentielles et le perfectionnement continu des modèles pour améliorer leur résistance aux hallucinations, aux biais, aux manipulations par des tiers et à d'autres vulnérabilités sont essentiels pour garantir le succès des applications d'IA générative.

• Développer une nouvelle gouvernance, de nouveaux cadres et de nouveaux contrôles : avant de passer à la phase opérationnelle, créez des environnements sûrs et sécurisés pour les tests et l'apprentissage, qui vous permettent d'échouer rapidement et en toute sécurité. Se lancer tête baissée dans la production en étant en contact direct avec les clients peut entraîner la mise en œuvre de méthodes de gouvernance inadaptées.

• Suivi et amélioration continue : mettez en œuvre des systèmes de suivi fiables pour mesurer et comprendre les incidences financières, les effets du changement, l'ampleur et la complexité associés à l'adoption de l'IA.

• Évolutivité et intégration : concevez des systèmes d'IA en gardant à l'esprit l'évolutivité afin de prendre en charge des ensembles de données de plus en plus importants et des exigences en constante évolution.

• Sécurité et confidentialité : mettez en place de solides mesures de cybersécurité pour protéger les modèles d'IA et les données sur lesquelles ils reposent. Des techniques telles que l'entraînement contradictoire, le filtrage des données d'entrée et l'intégration de mécanismes de protection de la vie privée peuvent contribuer à atténuer le risque que l'IA générative révèle par inadvertance des données privées. Les mesures de cybersécurité devraient comprendre des dispositifs d'intervention en cas d'incident, ainsi qu'une formation régulière des parties prenantes concernées en matière de sécurité et de protection de la vie privée.

Comment MongoDB peut vous aider à relever les défis liés aux données

Dans le domaine de l'adoption de technologies avancées telles que l'IA et le ML qui nécessitent des données comme base, les organisations sont souvent aux prises avec le défi de l'intégration de ces innovations dans les systèmes existants. En particulier lorsqu'il s'agit de cas d'utilisation tels que la prévention de la fraude où la plateforme est intégrée à des sources externes pour une analyse précise des données sur des données complètes. L'inflexibilité des systèmes existants constitue un point sensible qui empêche l'intégration transparente des technologies de pointe. MongoDB, qui sert de magasin de données opérationnel (ODS) avec un modèle de document flexible, permet aux institutions financières de traiter efficacement de grands volumes de données en temps réel. En intégrant MongoDB aux plateformes d'IA/ML, les entreprises peuvent développer des modèles formés sur les données les plus précises et les plus récentes, répondant ainsi au besoin critique d'adaptabilité et d'agilité face à l'évolution des technologies.

Les systèmes hérités, marqués par leur manque de flexibilité et leur réticence à la modification, représentent un autre défi dans la poursuite de l'exploitation de l'IA pour améliorer l'expérience client et l'efficacité opérationnelle. Les difficultés d'intégration persistent également, en particulier dans le secteur financier, où l'incertitude liée à l'évolution des modèles d'IA au fil du temps nécessite une infrastructure évolutive. La plateforme de données pour développeurs MongoDB assure la pérennité des entreprises grâce à son schéma de données flexible capable de s'adapter à n'importe quelle structure, format ou source de données. Cette flexibilité facilite l'intégration transparente avec différentes plateformes d'IA/ML, ce qui permet aux institutions financières de s'adapter aux changements dans l'environnement de l'IA sans avoir à apporter de modifications importantes à l'infrastructure.

Les inquiétudes concernant la sécurité des données des clients, en particulier lorsqu'elles sont partagées avec des tiers par le biais d'API, compliquent encore l'adoption de technologies d'IA innovantes. Les systèmes hérités peuvent faire obstacle à l'innovation car ils sont souvent plus vulnérables aux menaces de sécurité en raison de mesures de sécurité obsolètes. La plateforme de données pour développeurs modernes de MongoDB relève ces défis grâce à des contrôles de sécurité intégrés pour toutes les données. Qu'elle soit gérée dans un environnement client ou via MongoDB Atlas, un service cloud entièrement géré, MongoDB garantit une sécurité renforcée grâce à des fonctionnalités telles que l'authentification (authentification unique et authentification multifactorielle), les contrôles d'accès basés sur les rôles et le chiffrement complet des données. Ces mesures de sécurité agissent comme une protection pour les données financières sensibles, en atténuant le risque d'accès non autorisé par des parties externes et en donnant aux organisations la confiance nécessaire pour adopter les technologies d'IA et de ML.