Navegar el panorama de la inteligencia artificial: Cómo el sector financiero puede aprovechar la IA generativa

En el panorama siempre cambiante de la tecnología financiera, la conversación sobre la inteligencia artificial (IA), y en particular la IA generativa, está ganando impulso. La IA ha formado parte del panorama financiero durante décadas, y, si bien con los avances en la IA generativa surgen mayores beneficios, también surgen riesgos que las instituciones financieras deben considerar en una industria tan regulada.

Si bien los beneficios potenciales de la IA generativa son significativos, y muchos aún están considerando su adopción, se necesita un enfoque medido al pasar de la prueba de concepto a la producción. En una edición de Fintech Finance News Virtual Arena, varios líderes de pensamiento destacados de HSBC, Capgemini y MongoDB se reunieron para explorar cómo el sector financiero puede aprovechar la IA generativa y qué deben considerar las instituciones financieras en su estrategia de IA.

Vea el panel de discusión Cómo el sector financiero puede aprovechar la IA generativa hoy con HSBC, MongoDB y Capgemini. Los ponentes:

• EJ Achtner, Oficina de Inteligencia Artificial Aplicada en HSBC

• Dan Pears, vicepresidente, líder de práctica en el Reino Unido en Capgemini

• Wei You Pan, director, Soluciones para la Industria de Servicios Financieros en MongoDB

• Doug Mackenzie, director de contenido en FF News

Abordar los desafíos de la IA generativa

Si bien los expertos en tecnología financiera siempre han tenido que lidiar con problemas persistentes como la gestión de riesgos y la gobernanza, la adopción de la IA generativa en el sector de fintech presenta nuevos desafíos que los especialistas en IA siempre han enfrentado, como sesgos inherentes y preocupaciones éticas. Un desafío que se destaca en cuanto a la IA generativa es la alucinación: la generación de contenido que no es exacto, fáctico ni refleja el mundo real. Los modelos de IA pueden producir información que parece plausible, pero que es completamente ficticia.

Los modelos de IA generativa, especialmente en el procesamiento del lenguaje natural, pueden generar textos coherentes y contextualmente apropiados, pero que carecen de exactitud fáctica. Esto plantea desafíos en diferentes dominios, incluida la desinformación y la fiabilidad del contenido. Algunos ejemplos de dichos desafíos o riesgos pueden incluir lo siguiente:

• Asesoramiento engañoso en cuanto a planificación financiera: En los servicios de asesoramiento financiero, la información alucinada puede dar lugar a consejos engañosos que provoquen riesgos inesperados u oportunidades perdidas.

• Evaluaciones de riesgo incorrectas para préstamos: Los perfiles de riesgo inexactos pueden generar evaluaciones de riesgo deficientes para los solicitantes de préstamos que pueden hacer que una institución financiera apruebe un préstamo con un riesgo de incumplimiento superior al que normalmente aceptaría.

• Información confidencial en el texto generado: Al generar texto, los modelos pueden incluir inadvertidamente información confidencial de los datos de entrenamiento. Los ciberdelincuentes pueden crear mensajes de entrada para inducir al modelo a generar resultados que expongan detalles confidenciales presentes en el corpus de entrenamiento.

Por lo tanto, es primordial que las instituciones financieras comprendan el impacto tecnológico, la escala y la complejidad asociados con la IA, especialmente en estrategias de IA generativa. Es fundamental tener un enfoque estratégico e integral que abarque diversos aspectos de la tecnología, los datos, la ética y la preparación organizacional. Estas son algunas consideraciones clave que las instituciones financieras deben tener en cuenta al adoptar dicha estrategia:

• Mitigación de las alucinaciones: Mitigar las alucinaciones en la IA generativa es una tarea difícil, pero se pueden emplear diversas estrategias y técnicas para reducir el riesgo de generar información inexacta o engañosa. Una estrategia prometedora es hacer uso del enfoque de generación aumentada de recuperación (RAG) para mitigar la alucinación en modelos de IA generativa. Este enfoque implica la incorporación de mecanismos de recuperación de información para mejorar el proceso de generación, asegurando que el contenido generado se base en el conocimiento del mundo real. Vector Search es un mecanismo popular para respaldar la implementación de la arquitectura RAG que utiliza la búsqueda vectorial para recuperar documentos relevantes en función de la consulta de entrada. Luego proporciona estos documentos recuperados como contexto a los modelos de lenguaje grande (LLM) para ayudar a generar una respuesta más informada y precisa.

• Calidad y disponibilidad de los datos: Dé un paso atrás antes de adoptar la IA para garantizar que se pueda acceder en tiempo real a la calidad, la relevancia y la precisión de los datos que se utilizan para el entrenamiento y la toma de decisiones de la IA.

• Educación: Invertir en programas de capacitación es clave para abordar la brecha de habilidades con respecto a la IA, y asegura que la fuerza laboral esté equipada para gestionar, interpretar y colaborar con tecnologías de IA. Para que la adopción de la IA tenga éxito, es vital contar con una cultura de aprendizaje y desarrollo, que proporcione a los empleados las herramientas necesarias para alcanzar su máximo potencial tanto en su desarrollo personal como profesional. Asimismo, promover la concientización sobre posibles vulnerabilidades y perfeccionar continuamente los modelos para mejorar su resiliencia contra la alucinación, los sesgos, la manipulación de adversarios y otras debilidades, son esenciales para garantizar el éxito en las aplicaciones de IA generativa.

• Desarrollo de nuevas estructuras de gobernanza, marcos y controles: Antes de la implementación, cree entornos seguros para las pruebas y el aprendizaje que permitan experimentar rápidamente de manera segura. Pasar de lleno a la producción con contacto directo con los clientes puede resultar en la implementación de métodos de gobernanza incorrectos.

• Monitoreo y mejora continua: Implemente sistemas de monitoreo sólidos para medir y comprender los impactos financieros, los impactos de los cambios, la escala y la complejidad asociados con la adopción de la IA.

• Escalabilidad e integración: Diseñe sistemas de IA teniendo en cuenta la escalabilidad para que se adapten a los crecientes conjuntos de datos y a los requisitos cambiantes.

• Seguridad y privacidad: Implemente medidas de ciberseguridad sólidas para proteger los modelos de IA y los datos en los que se apoyan. Técnicas como el entrenamiento de adversarios, la desinfección de entradas y la incorporación de mecanismos de preservación de la privacidad pueden ayudar a mitigar el riesgo de que la IA generativa revele inadvertidamente datos privados. Los planes de respuesta a incidentes deben formar parte de las medidas de ciberseguridad, así como la educación periódica de las partes interesadas pertinentes en materia de seguridad y privacidad.

Cómo MongoDB puede ayudarle a superar sus desafíos de datos

En el ámbito de la adopción de tecnologías avanzadas como la IA y el ML, que requieren datos como base, las organizaciones a menudo se enfrentan al desafío de integrar estas innovaciones en sistemas heredados, particularmente cuando se trata de casos de uso como la prevención del fraude, donde la plataforma se integra con fuentes externas para hacer un análisis preciso de datos completos. La falta de flexibilidad de los sistemas existentes plantea un punto problemático significativo, lo que dificulta la incorporación fluida de tecnologías de vanguardia. MongoDB sirve como almacén de datos operativos (ODS) con un modelo de documento flexible que permite a las instituciones financieras tratar de manera eficiente grandes volúmenes de datos en tiempo real. Al integrar MongoDB con plataformas de IA/ML, las empresas pueden desarrollar modelos entrenados con los datos más precisos y actualizados, abordando así la necesidad crítica de adaptabilidad y agilidad frente a las tecnologías en evolución.

Los sistemas heredados, marcados por su inflexibilidad y resistencia a la modificación, presentan otro desafío en la búsqueda de aprovechar la IA para mejorar las experiencias del cliente y la eficiencia operativa. También persisten las dificultades de integración, especialmente en el sector financiero, donde la incertidumbre de la evolución de los modelos de IA a lo largo del tiempo requiere una infraestructura escalable. La plataforma de datos para desarrolladores de MongoDB prepara a las empresas para el futuro con su esquema de datos flexible capaz de adaptarse a cualquier estructura, formato o fuente de datos. Esta flexibilidad facilita la integración perfecta con diferentes plataformas de IA/ML, lo que permite a las instituciones financieras adaptarse a los cambios en el panorama de la IA sin grandes modificaciones en la infraestructura.

Las preocupaciones sobre la seguridad de los datos de los clientes, especialmente cuando se comparten con terceros a través de API, complican aún más la adopción de tecnologías innovadoras de IA. Los sistemas heredados pueden obstaculizar la innovación, ya que a menudo son más vulnerables a las amenazas de seguridad debido a medidas de seguridad obsoletas. La moderna plataforma de datos para desarrolladores de MongoDB aborda estos desafíos con controles de seguridad integrados en todos los datos. Ya sea gestionado en un entorno de cliente o a través de MongoDB Atlas, un servicio de cloud totalmente gestionado, MongoDB garantiza una seguridad sólida con características como autenticación (inicio de sesión único y autenticación multifactorial), controles de acceso basados en roles y cifrado de datos integral. Estas medidas de seguridad actúan como una protección para los datos financieros confidenciales, mitigando el riesgo de acceso no autorizado de partes externas y brindando a las organizaciones la confianza para adoptar tecnologías de IA y ML.