LA LORO SFIDA
Semplificazione dell'accesso a una vasta gamma di contenuti della libreria in tempi record
Swisscom è il principale fornitore svizzero di servizi di telefonia mobile, internet e TV. In un paese di quasi nove milioni di abitanti, Swisscom conta più di sei milioni di connessioni mobili e due milioni di clienti a banda larga. È un nome noto, ma è anche molto più di un marchio rivolto ai consumatori. Swisscom fornisce servizi di tecnologia dell'informazione e della comunicazione ad alcune delle principali aziende del paese e al dinamico settore delle piccole e medie aziende. Considera il proprio ruolo come un motore per il futuro digitale della Svizzera e dichiara di essere l'innovatore tecnologico svizzero più affidabile.
L'azienda prevede di investire 100 milioni di CHF (117 milioni di $) in soluzioni AI nei prossimi anni. Sta collaborando con Nvidia per costruire supercomputer full-stack di Generative AI (gen AI), basati sul calcolo accelerato di Nvidia e sul software Nvidia AI. Swisscom vuole assumere una posizione di leadership nell'AI, contribuendo a trovare e sviluppare servizi AI go-to-market pertinenti per i clienti svizzeri.
Nell'ambito di questo percorso, Swisscom desidera integrare l'AI nelle proprie attività e sta esplorando diversi casi d'uso.
Un caso particolare è e.foresight, il "think tank indipendente per il settore bancario" di Swisscom. Il settore dei Financial Services rappresenta quasi il 10% del prodotto interno lordo svizzero; e.foresight individua, monitora e analizza le tendenze e gli sviluppi comportamentali e tecnologici nel settore finanziario globale. Utilizzato da trenta delle principali banche del paese, nel corso degli anni ha sviluppato una vasta libreria di contenuti specialistici.
Swisscom utilizza MongoDB Atlas per applicare la Generative AI a questa vasta libreria. L'impegno consente a Swisscom di ricavare il massimo valore dai propri contenuti, producendo contenuti su misura per le centinaia di utenti di e.foresight all'interno delle trenta banche che usufruiscono dei suoi servizi. In questo modo, sta trasformando la velocità, l'accuratezza e la pertinenza delle richieste di ricerca. Invece di inoltrare sei rapporti da far esaminare agli utenti, può utilizzare la Generative AI per produrre un riepilogo sintetico in pochi secondi.
"e.foresight dispone di oltre 3.500 documenti sui trend del settore bancario nella sua libreria e ogni giorno vengono aggiunti nuovi documenti", ha affermato Dr. Martin Lorenz, Product Manager, Banking Front Solutions, Swisscom. "MongoDB Atlas ci consente di archiviare e cercare tutte queste informazioni e di creare qualcosa di pertinente a una richiesta specifica."
LA NOSTRA SOLUZIONE
Arricchire gli LLM con MongoDB Vector Search su Atlas
In termini pratici, l'applicazione di Generative AI di Swisscom doveva consentire ai large language model (LLM) di interpretare la libreria di documenti e.foresight. La libreria non è solo vasta, ma anche diversificata. Include dati non strutturati, come rapporti scritti, registrazioni di eventi dal vivo, grafici e studi esterni, e continua a crescere.
MongoDB è stato fondamentale per raggiungere l'obiettivo di Swisscom, contribuendo a fornire la tecnologia per la sua applicazione di retrieval-augmented generation (RAG). Ora tutti i documenti nella libreria e.foresight sono archiviati in MongoDB Atlas, un database unico e sicuro per archiviare e cercare vettori insieme ai dati operativi. Swisscom può quindi convertire i dati non strutturati in incorporamenti vettoriali e utilizzare MongoDB Vector Search on Atlas per trovare segmenti di contesto pertinenti allo scopo di fornire agli LLM dati aggiornati, contestuali e specifici per il dominio. Di conseguenza, l'applicazione è in grado di generare risposte più accurate e altamente pertinenti per gli utenti.
In un settore in rapida evoluzione, con costanti progressi delle funzionalità di Generative AI, MongoDB ha permesso a Swisscom di passare rapidamente dall'idea alla produzione, consentendo un time-to-market più veloce. Lorenz ha contattato MongoDB il 6 febbraio 2024 e, entro il 15 febbraio, aveva già realizzato un prototipo basato su un sottoinsieme di dati, interamente sviluppato sulla piattaforma dati per sviluppatori MongoDB Atlas. Dopo un mese di test insieme a MongoDB e all'università di scienze applicate ZHAW, il team interno di Swisscom ha assunto la gestione operativa della piattaforma.
Il team ha aggiunto nuove funzionalità e, dopo un altro mese di test interni, la piattaforma è entrata in produzione all'inizio di maggio.
_1.svg)