Navigare nel panorama dell’intelligenza artificiale: possibili utilizzi dell'IA generativa nel settore finanziario

Nel mutevole panorama della tecnologia finanziaria, si stanno facendo largo le discussioni riguardanti l'intelligenza artificiale (IA) e, più nello specifico, l'IA generativa. L'IA fa parte del panorama finanziario già da decenni, ma con i progressi dell'IA generativa si profilano diversi vantaggi e diversi rischi che gli istituti finanziari devono prendere in considerazione per operare nel loro settore altamente regolamentato.

Sebbene i potenziali vantaggi dell'IA generativa siano importanti e la sua adozione sia ancora in fase di considerazione da parte di molti, è necessario utilizzare la massima cautela quando ci si sposta dal Proof-of-Concept alla produzione. In un'edizione della Fintech Finance News Virtual Arena, diversi leader di pensiero importanti del settore, provenienti da HSBC, Capgemini e MongoDB, si sono riuniti per esplorare i possibili utilizzi dell'IA generativa nel settore finanziario, e cosa è bene che gli istituti finanziari prendano in considerazione nella loro strategia IA.

Guarda il panel di discussione "In che modo il settore finanziario può utilizzare l'IA generativa", con HSBC, MongoDB e Capgemini. Ascolterai:

• EJ Achtner, Office of Applied Artificial Intelligence di HSBC

• Dan Pears, Vicepresidente, UK Practice Lead di Capgemini

• Wei You Pan, Direttore, Financial Services Industry Solutions di MongoDB

• Doug Mackenzie, Chief Content Officer di FF News

Affrontare le sfide dell'IA generativa

Gli esperti di tecnologia finanziaria da sempre hanno dovuto affrontare problemi persistenti, come la gestione del rischio e la governance, ma l'adozione dell'IA generativa nella fintech introduce nuove sfide ben note agli specialisti dell'IA, come i bias intrinseci e preoccupazioni etiche. Una sfida particolarmente di spicco per l'IA generativa è la cosiddetta "allucinazione", ovvero la generazione di contenuti imprecisi, non fattuali e non rappresentativi del mondo reale. I modelli di IA possono produrre informazioni che sembrano plausibili ma che, in verità, sono completamente fittizie.

I modelli di IA generativa, specialmente nell'elaborazione del linguaggio naturale, possono generare testi coerenti e adeguati al contesto ma che non hanno precisione fattuale. Questo pone diverse sfide in molti domini, fra cui la disinformazione e l'affidabilità dei contenuti. Alcuni esempi di tali sfide o rischi possono essere:

• Consulenze di pianificazione finanziaria fuorvianti: nei servizi di consulenza finanziaria, le informazioni contenenti allucinazioni possono portare a consigli fuorvianti i quali, a loro volta, possono aprire le porte a rischi inattesi o a opportunità mancate.

• Valutazioni del rischio errate per i prestiti: profili di rischio imprecisi possono risultare in una valutazione poco affidabile riguardo ai richiedenti prestito, portando un istituto finanziario ad approvare un mutuo a un rischio di insolvenza più alto di quello che normalmente accetterebbe.

• Informazioni sensibili all'interno del testo generato: quando si genera un testo, i modelli possono inavvertitamente includere informazioni sensibili sui dati di addestramento. Gli aggressori possono creare prompt di input per indurre il modello a generare output che rivelino le informazioni riservate presenti nel corpus di addestramento.

Per questo è fondamentale che gli istituti finanziari comprendano l'impatto tecnologico, la scala e la complessità associati all'IA, e specialmente alla strategia di IA generativa. Un approccio strategico e completo che copra vari aspetti di tecnologia, dati, etica e preparazione organizzativa appare pertanto imprescindibile. Ecco alcune considerazioni chiave che gli istituti finanziari devono tenere a mente quando adottano una strategia di questo tipo:

• Mitigazione dell'allucinazione: mitigare l'allucinazione nell'IA generativa è un compito difficile, ma è possibile applicare diverse strategie e tecniche per ridurre il rischio di generare informazioni imprecise o fuorvianti. Una di queste, particolarmente promettente, è utilizzare l'approccio RAG (Retrieval Augmented Generation) per mitigare l'allucinazione nei modelli di IA generativa. Questo approccio prevede l'incorporamento di meccanismi di recupero delle informazioni per migliorare il processo di generazione, garantendo che i contenuti risultanti si basino su conoscenze del mondo reale. Vector Search è un meccanismo popolare di supporto dell'implementazione dell'architettura RAG che utilizza la ricerca vettoriale per recuperare documenti rilevanti sulla base della query di input, per poi fornirli sotto forma di contesto ai modelli linguistici di grandi dimensioni (LLM) per generare una risposta più informata e precisa.

• Qualità e disponibilità dei dati: prima di adottare l'IA, fai un passo indietro e controlla che la qualità, la pertinenza e la precisione dei dati utilizzati per l'addestramento dell'IA e il processo decisionale siano accessibili in tempo reale.

• Formazione: investire in programmi di formazione è fondamentale per ridurre i gap delle competenze nell'IA e garantire che i dipendenti siano preparati per gestire, interpretare e collaborare con le tecnologie di IA. Affinché l'adozione dell'IA abbia successo, è fondamentale costruire una cultura di apprendimento e sviluppo, fornendo ai dipendenti gli strumenti di cui hanno bisogno per raggiungere il massimo sia dal punto di vista personale che da quello professionale. Inoltre, promuovere la consapevolezza sulle potenziali vulnerabilità e affinare continuamente i modelli perché migliorino la loro resilienza ad allucinazioni, bias, manipolazioni avversarie e altre debolezze è necessario per garantire il successo delle applicazioni di IA generativa.

• Sviluppare nuovi framework, controlli e governance: prima di partire, crea ambienti sicuri e protetti per testare e apprendere, che ti consentano di controllare rapidamente e in modo sicuro gli eventuali errori. Buttarsi a capofitto nella produzione, a diretto contatto con i consumatori, può causare l'implementazione dei metodi di governance sbagliati.

• Monitoraggio e miglioramento continuo: implementa sistemi di monitoraggio robusti per misurare e comprendere gli impatti finanziari, i cambiamenti, la scalabilità e la complessità associati all'adozione dell'IA.

• Scalabilità e integrazione: progetta sistemi di IA incentrati sulla scalabilità, in grado di far spazio alla crescita dei set di dati e ai mutamenti dei requisiti.

• Sicurezza e privacy: implementa solide misure di cybersecurity per proteggere i modelli di IA e i dati su cui si basano. Tecniche come l'addestramento avversario, la sanificazione degli input e l'incorporamento di meccanismi di tutela della privacy possono mitigare il rischio che l'IA generativa riveli inavvertitamente dati privati. Anche i piani di risposta agli incidenti devono far parte delle misure di cybersecurity, così come una formazione regolare delle parti coinvolte pertinenti in materia di sicurezza e privacy.

In che modo MongoDB può aiutarti a superare le tue sfide relative ai dati

Nell'ambito dell'adozione di tecnologie avanzate come l'IA e il machine learning, che richiedono i dati come base, le organizzazioni si trovano spesso ad affrontare la sfida della loro integrazione all'interno di sistemi legacy, specialmente in casi d'uso come la prevenzione delle frodi, dove la piattaforma è integrata con risorse esterne per un'analisi accurata di dati completi. La poca flessibilità dei sistemi esistenti è un punto di frizione importante che rischia di rallentare l'incorporamento di tecnologie all'avanguardia. MongoDB, utilizzato come data store operativo (ODS) con un document model flessibile, permette agli istituti finanziari di gestire in modo efficiente grandi volumi di dati in tempo reale. Integrando MongoDB con le piattaforme AI/ML, le aziende possono sviluppare modelli addestrati sui dati più accurati e aggiornati, rispondendo così alla necessità critica di adattabilità e agilità di fronte all'evoluzione delle tecnologie.

I sistemi legacy, caratterizzati dalla loro rigidità e resistenza alla modifica, presentano un'altra sfida nel tentativo di utilizzare l'IA per migliorare le esperienze dei clienti e l'efficienza operativa. Permangono anche diversi problemi di integrazione, specialmente nel settore finanziario, dove l'incertezza dei modelli di IA in continua evoluzione nel tempo richiede un'infrastruttura scalabile. La piattaforma di dati per sviluppatori MongoDB prepara le imprese per il futuro con il suo schema di dati flessibile in grado di accogliere qualsiasi struttura, formato o origine dei dati. Questa flessibilità facilita un'integrazione fluida con diverse piattaforme AI/ML, consentendo agli istituti finanziari di adattarsi alle modifiche nel panorama dell'IA senza grosse modifiche all'infrastruttura.

Le preoccupazioni relative alla sicurezza dei dati dei clienti, specialmente se condivisi con terze parti tramite API, complicano ulteriormente l'adozione di tecnologie innovative di IA. I sistemi legacy possono ostacolare questa innovazione perché spesso sono più vulnerabili alle minacce alla sicurezza a causa di misure di protezione obsolete. La moderna piattaforma di dati per sviluppatori di MongoDB affronta queste sfide con controlli di sicurezza integrati su tutti i dati. Che sia gestito in un ambiente cliente o tramite MongoDB Atlas, un servizio cloud completamente gestito, MongoDB garantisce una sicurezza solida con funzionalità come l'autenticazione (single sign-on e autenticazione a più fattori), i controlli di accesso basati sui ruoli e la crittografia completa dei dati. Si tratta di misure di sicurezza che fungono da protezione per i dati finanziari sensibili, mitigando il rischio di accesso non autorizzato da parte di soggetti esterni e fornendo alle organizzazioni la sicurezza necessaria per abbracciare le tecnologie di IA e ML.