探索人工智能领域：金融行业如何利用生成式人工智能

在日新月异的金融技术领域，围绕人工智能 (AI)，尤其是生成式人工智能的讨论正日益升温。数十年来，AI 一直是金融领域的一部分，但生成式人工智能的发展带来了更大的好处，也带来了金融机构在这样一个受监管的行业中需要考虑的风险。

虽然生成式人工智能的潜在好处是巨大的，并且许多人仍在考虑采用它，然而在将其从概念验证转变为实际生产时，务必审慎选择合适的方法。在金融科技金融新闻：虚拟竞技场”的一期中，来自汇丰银行、凯捷和 MongoDB 的几位著名行业思想领袖齐聚一堂，探讨金融业如何利用生成式人工智能以及金融机构在其 AI 战略中必须考虑哪些因素。

观看汇丰银行、MongoDB 和凯捷的小组讨论“当今金融业如何利用生成式人工智能。参与讨论嘉宾如下：

• 汇丰银行应用人工智能办公室 EJ Achtner

• 凯捷副总裁兼英国业务主管 Dan Pears

• MongoDB 金融服务行业解决方案总监 Wei You Pan

• FF 新闻首席内容官 Doug Mackenzie

应对生成式人工智能挑战

尽管金融科技专家一直以处理风险管理和治理等长期问题为己任，然而生成式人工智能在金融科技中的应用却引发了新的挑战，如固有偏见和伦理困境，这是人工智能专家们所面临的新课题。生成式人工智能面临的一项突出挑战是幻觉，即生成不准确、不真实或无法反映现实世界的内容。人工智能模型可能会产生听起来合理但完全虚构的信息。

生成式人工智能模型，尤其是在自然语言处理领域，可能会产生连贯且情境相符的文本，然而却缺乏准确性和真实性。这带来了不同方向的挑战，包括错误信息和内容可靠性。此类挑战或风险的示例可能包括：

• 在财务规划建议中的误导性：财务咨询服务中，虚假信息可能引发误导性建议，导致意外风险或错失良机。

• 错误的贷款风险评估：不准确的风险总结可能使得贷款申请者的风险评估失准，进而导致金融机构在高于标准接受范围的违约风险下批准贷款。

• 敏感信息泄露于生成文本：在文本生成过程中，模型可能会无意中揭露培训数据中的敏感信息。对手可通过创建输入提示来引诱模型生成结果，从而揭露训练语料库中的机密细节。

因此，金融机构务必要了解与人工智能相关的技术影响、规模和复杂性，尤其是生成式人工智能策略。在制定涵盖技术、数据、伦理和组织准备等多方面的综合战略方法时至关重要。以下是金融机构在实施这类策略时需牢记的一些关键考虑因素：

• 减少幻觉：在生成式人工智能领域，减少幻觉可能是一项充满挑战的任务，但可以通过采用多种策略和技术来降低生成不准确或具误导性信息的风险。一种有潜力的方法是采用检索增强生成（RAG）技术来减少生成式人工智能模型中的幻觉。这种方法涉及整合信息检索机制来强化生成过程，以确保生成的内容基于现实世界的知识。矢量搜索是支持 RAG 架构实现的流行机制，它利用矢量搜索以根据输入查询来检索相关文档。然后，RAG 会将这些检索到的文档作为上下文提供给大型语言模型 (LLM)，以帮助生成更明智、更准确的响应。

• 数据质量和可用性：在使用 AI 之前，要先退后一步，确保所用于 AI 训练和决策的数据具有高质量、相关性和准确性，以便实时访问。

• 教育：投资于培训计划是弥补AI技能差距的关键，确保员工具备能力来托管、解释 AI 技术并与之协作。要成功应用 AI，树立学习和发展的文化至关重要，为员工提供实现个人和职业发展最佳水平所需的工具。此外，加深对潜在漏洞的认识，并持续完善模型以增强其抵御幻觉、偏见、对抗性操纵等弱点，对确保生成式人工智能应用程序成功至关重要。

• 开发新的治理、框架和控制措施：在发布前，建立一个安全可靠的测试和学习环境，让您能够在一个安全的场所迅速试错并吸取教训。在与客户直接接触的情况下直接投入生产，可能会导致实施错误的治理方法。

• 监控和持续改进：建立强大的监控系统，以评估和深入理解 AI 对财务、变革、规模和复杂性的影响。

• 可扩展性和集成性：在设计 AI 系统时，应思考可扩展性，以应对不断增长的数据集和不断变化的需求。

• 安全和隐私：采取强有力的网络安全措施，以保护 AI 模型及其所需数据的安全。对抗性训练、输入清理和结合隐私保护机制等技术可以帮助减轻生成式人工智能无意中泄露私人数据的风险。建立事件响应计划应当是网络安全措施不可或缺的组成部分，同时需要定期对相关利益相关者进行安全和隐私教育。

MongoDB 如何助您克服数据挑战

在采用 AI 和机器学习等需要数据为基础的尖端技术领域，企业常常面临将这些创新技术集成到旧系统中的考验，尤其是在涉及欺诈预防等用例时。在这些用例中，为了对完整数据进行准确的数据分析，平台需要与外部来源进行集成。现有系统的不灵活性是一大痛点，阻碍了尖端技术的无缝结合。MongoDB 作为具有灵活文档模型的操作数据存储 (ODS)，使金融机构能够高效实时处理大量数据。通过将 MongoDB 与 AI/ML 平台无缝集成，企业得以打造基于最准确和最新数据训练的模型，以满足在技术不断发展的条件下对适应性和敏捷性的迫切需求。

旧系统的固有特性包括缺乏灵活性和修改难度，这为利用 AI 来提升客户体验和提高运营效率带来了另一个难题。在金融领域，集成问题依然棘手，随着时间推移，AI 模型的不确定性不断演变，需要具备可扩展性的基础设施来予以应对。MongoDB 的开发者数据平台凭借其灵活的数据模型，能够应对各种数据结构、格式和来源，为企业提供具备前瞻性的服务。这种灵活性有助于金融机构实现与各种 AI/ML 平台的无缝集成，使其能够灵活应对 AI 环境的变化，而无需大规模修改基础架构。

对客户数据安全性的担忧，尤其是在通过 API 与第三方共享时，为采用创新人工智能技术增添了更多复杂性。旧系统可能成为创新的绊脚石，因为它们往往因为过时的安全措施而更容易受到安全威胁。MongoDB 的现代开发人员数据平台通过针对所有数据的内置安全控制来应对这些挑战。MongoDB 提供了身份验证（单点登录和多因素身份验证）、基于角色的访问控制以及全面的数据加密等功能，无论是在客户环境中管理还是通过完全托管的云服务 MongoDB Atlas 进行管理，这些功能都能确保强大的安全性。这些安全措施不仅可以有效保护敏感的财务数据，降低外部各方未经授权访问的风险，而且还能使组织放心地采用 AI 和机器学习技术。