SU DESAFÍO
Optimización del acceso a una gran cantidad de contenido de la librería en tiempo récord
Swisscom es el principal proveedor de Suiza de servicios móviles, de internet y de TV. En un país de casi nueve millones de habitantes, Swisscom tiene más de seis millones de conexiones móviles y dos millones de clientes de banda ancha. Es un nombre muy conocido, pero también es mucho más que una marca orientada al consumidor. Swisscom ofrece servicios de tecnologías de la información y las comunicaciones a algunas de las principales empresas del país y al dinámico sector de las pequeñas y medianas empresas. Considera que su rol es potenciar el futuro digital de Suiza y afirma ser el innovador tecnológico suizo de mayor confianza.
La empresa planea invertir 100 millones de CHF (117 millones de dólares) en soluciones de IA en los próximos años. Está trabajando con Nvidia para compilar supercomputadoras de IA generativa de pila completa, basadas en la computación acelerada de Nvidia y el software de IA de Nvidia. Swisscom quiere ocupar una posición de liderazgo en IA, ayudando a encontrar y desarrollar servicios de IA de comercialización relevantes para los clientes suizos.
Como parte de esto, Swisscom tiene gran interés en adoptar la IA dentro de sus propias operaciones y está explorando varios casos de uso.
Un caso particular es e.foresight, el "think tank para el sector bancario" independiente de Swisscom. El sector de servicios financieros representa casi el 10% del producto interno bruto suizo; e.foresight identifica, supervisa y analiza las tendencias y los desarrollos tecnológicos y de comportamiento en el sector financiero global. Utilizado por 30 de los principales bancos del país, ha acumulado una considerable librería de contenido experto a lo largo de los años.
Swisscom utiliza MongoDB Atlas para aplicar IA generativa a esta extensa librería. La interacción permite a Swisscom extraer el máximo valor de su contenido, produciendo contenido a medida para los cientos de usuarios de e.foresight dentro de los 30 bancos que se suscriben a sus servicios. Al hacerlo, está transformando la velocidad, la precisión y la relevancia de las solicitudes de búsqueda. En lugar de enviar seis informes para que los usuarios los analicen, puede utilizar IA generativa para producir un resumen condensado en cuestión de segundos.
"e.foresight cuenta con más de 3500 documentos sobre tendencias en el sector bancario en su librería, y cada día se agregan más", afirmó el Dr. Martin Lorenz, gerente de producto de Banking Front Solutions de Swisscom. "MongoDB Atlas nos permite almacenar y buscar toda esa información y crear algo relevante para una solicitud específica".
NUESTRA SOLUCIÓN
Enriquecimiento de grandes modelos de lenguaje con MongoDB Vector Search on Atlas
En términos prácticos, la aplicación de IA generativa de Swisscom necesitaba activar grandes modelos de lenguaje (LLM) para dar sentido a la librería de documentos de e.foresight. La librería no solo es grande, sino también diversa. Incluye datos no estructurados, como informes escritos, grabaciones de eventos en vivo, gráficos y estudios externos, y sigue creciendo.
MongoDB fue fundamental para lograr el objetivo de Swisscom al ayudar a impulsar su aplicación de generación de recuperación aumentada (RAG). Ahora, todos los documentos en la librería e.foresight se almacenan en MongoDB Atlas, una base de datos única y segura para almacenar y buscar vectores junto con datos operativos. Swisscom puede entonces convertir los datos no estructurados en incrustaciones vectoriales y utilizar MongoDB Vector Search on Atlas para encontrar segmentos de contexto relevante con el fin de alimentar a los LLM con datos actualizados, contextuales y específicos del dominio. Como resultado, la aplicación puede generar respuestas más precisas y altamente relevantes para los usuarios.
En una industria en rápida evolución, con constantes avances en las capacidades de IA generativa, MongoDB permitió a Swisscom pasar rápidamente de la idea a la producción, lo que facilitó una mayor velocidad de comercialización. Lorenz contactó a MongoDB el 6 de febrero de 2024 y, para el 15 de febrero, ya tenía un prototipo basado en un subconjunto de datos completamente compilado en la plataforma de datos para desarrolladores MongoDB Atlas. Tras un mes de pruebas junto a MongoDB y la universidad de ciencias aplicadas ZHAW, el equipo interno de Swisscom se hizo cargo de las operaciones de la plataforma.
El equipo añadió nuevas funcionalidades y, tras otro mes de pruebas internas, la plataforma entró en producción a principios de mayo.
_1.svg)