AI助手资讯

文 / 上交所技术有限责任公司 陈洪炎 胡跟旺 卓航星 金融领域拥有天然的大量数据积淀，为大模型在金融领域的应用提供了良好的数据基础，因此金融行业大模型相较于其他行业的垂直大模型中落地速度相对较快。同时金融领域大模型的应用场景较多，大模型有助于从不同角度提升原有从业人员及机构的工作效率。大模型在金融领域的实践需要考虑多方因素，除了大模型技术框架对现有金融业务的效率提升以外，金融业务的专业性、严谨性、安全性及合规性要求对大模型在金融领域的应用实践也提出了更加严格的风险防控措施要求。 大模型的发展与应用 1.大模型架构。大模型最早诞生于自然语言处理领域，最开始自然语言模型通过神经网络预测单词，加入注意力机制后，使单词之间建立关系而考虑整句语言的含义，从而建立Transformer架构。谷歌和微软分别针对Transformer的编码部分以及解码部分进行研究从而产生了两条技术路线，即以BERT为代表的仅用编码器部分的路线和以GPT为代表的仅用解码器部分的路线。BERT与GPT都用到了预训练范式，预训练范式是指利用大量的数据训练一个基础模型，然后在下游任务上进行一点微调就能够在相应的任务上得到很好的性能表现。通过不断叠加数据并增加模型参数规模以及优化模型的提示工程，不仅可以解决更复杂的任务，同时也拥有了更强大的文本涌现能力。仅用编码器架构的大模型擅长对文本内容进行分析、分类，包括情感分析和命名实体识别，如BERT。仅用解码器架构通常用于序列生成任务，如文本生成、机器翻译等需要生成序列的任务，如GPT。为结合编码器和解码器的优点，出现了编解码器架构如T5和GLM。为了解决仅用解码器架构时内存占用高、响应慢等问题，微软提出双解码器Decoder-Decoder新型架构YOCO（You Only Cache Once），两个解码器分为自解码器（Self-Decoder）和交叉解码器（Cross-Decoder）两部分，以此来降低内存开销，提高性能及吞吐率。 2.大模型在金融领域的应用。随着硬件能力发展，算力已满足大模型的计算要求，大模型逐渐进入公众视野，大模型应用迎来了蓬勃发展，并在媒体影视、电商、广告营销、游戏、医疗、教育及金融等各行各业中得到广泛应用。大模型浪潮爆发后，国内各企业纷纷推出自研大模型。金融领域拥有天然的大量数据积淀，从而为大模型应用提供了良好的数据基础，大型科技企业如华为推出了盘古金融大模型，蚂蚁集团发布了金融大模型AntFinGLM。 金融行业的专业性、严谨性、合规性等特点，在把大模型技术应用到金融领域面临挑战，如：通用大模型的缺乏金融专业知识，通用大模型缺乏金融情境下上下文理解能力，通用大模型无法满足金融合规及监管等要求。金融机构在应用大模型到金融业务场景的过程中，一般需要经过两个主要步骤：一是从通用大模型进一步训练调优出专业的大模型；二是以大模型为核心，结合金融专业知识库、金融专业工具库、智能体、安全合规组件等构成一个可满足金融领域安全应用要求的应用系统，来支撑在金融大模型各场景中的应用。 3.金融大模型的开发框架。通用大模型在金融领域的适配一般需要经历数据收集、数据处理、在金融语义语境中训练通用大模型、参数微调、提高复杂推理能力、优化性能、减少幻觉、模型部署、模型评测、模型应用等流程。金融大模型开发框架（见图1）大致分为5个层次，即数据层、训练层、部署层、推理层和应用层。 图1 金融大模型开发框架 （1）金融数据收集。金融数据收集包括预训练数据、金融指令和安全数据。预训练数据主要包括广泛金融背景知识、语义语境认知等金融语料。预训练数据来源广泛，数据格式多样化，一般需要支持多模态输入处理。金融指令包括金融术语、指标计算、规范等专业知识。安全数据是为了满足安全合规要求，为保证大模型输出内容符合金融安全底线，遵从金融价值观而提供的必要输入数据。 （2）微调技术。从大模型参数规模来看，大模型微调分两种技术：一是全量微调（FFT），是对模型的所有参数进行训练；二是高效参数微调（PEFT）仅对部分参数进行训练。在金融大模型训练中较常使用的是PEFT，PEFT可以解决FFT带来的问题，即：FFT的训练成本很高，一般大模型的参数量较多，FFT相当于对模型进行了一次重新训练，FFT进行全参重训之后的大模型能力可能会变更差。PEFT的目的是能够在可控成本的前提下，尽可能地提升大模型在特定领域的能力。 （3）思维链增强。思维链（Chain of Thought，CoT）是通过让大模型逐步参与将一个复杂问题分解为一步一步的子问题并依次进行求解的过程，通过构建模型来模拟人类思考过程，形成一个连贯并符合逻辑的思维过程。CoT被认为是一种开创性且最具影响力的提示工程技术。但传统的CoT一般是线性链式结构，这限制了金融大模型在处理复杂金融领域任务时的推理能力，因此需要采用思维链增加技术（见表1）来提高推理能力。 表1  思维链CoT增加技术 （4）智能体。智能体是指能够自主感知环境、做出决策并执行行动的系统。智能体具备自主性、交互性、反应性和适应性等基本特征，能够在复杂多变的环境中独立完成任务。金融领域智能体可以分为三大模块：感知、记忆和行动。感知是从外界获取信息，记忆是存储知识、处理信息并做出决策，行动是向外界反馈信息。智能体自我反思是对智能体之前的活动进行回顾性思考，以纠正之前错误认知并完善行动决策。 金融大模型安全 大模型在金融领域的实践需要考虑多方因素，除了大模型技术框架对现有金融业务的效率提升以外，金融业务的专业性、严谨性及合规要求对大模型在金融领域的应用实践也提出了更加严格的风险防控措施要求。金融大模型安全挑战主要分为内生安全及应用安全。内生安全是金融大模型在研发过程中设计的基础设施、数据、模型、算法、训练过程、部署等环节中遇到的安全风险，而应用安全是金融大模型的不合理应用、滥用或恶意使用而引入的决策失控风险。内生安全问题应由大模型研发团队关注，应用安全则需要法律法规和行业管理规范来监管和控制。 1.金融大模型内生安全。金融大模型的研发生命周期可分为数据收集处理、模型训练、模型部署和模型落地应用四个阶段。其中数据收集处理阶段主要收集、处理、储存大模型训练需要的预训练数据、安全数据和金融指令等；模型训练阶段对海量数据进行预训练、调参、对齐、构建智能体等；模型部署是将训练好的大模型适配特定的硬件资源，并尽量提高大模型的实时性和推理效率；模型落地应用是用大模型解决各种实际的金融任务。 金融大模型的内生安全风险在不同的生命周期阶段有所不同，也有部分安全风险贯穿在全研发生命周期中（见表2）。在数据收集处理阶段，潜在数据泄漏、数据投毒等风险；在模型训练阶段，潜在后门攻击、数据泄漏、数据污染、模型篡改、模型窃取攻击、AI组件漏洞等风险；在模型部署阶段潜在平台漏洞、硬件漏洞、供应链投毒等风险；在模型落地应用阶段，潜在事实性错误、隐私泄漏、提示注入、对抗攻击、内容安全、大模型滥用、伦理安全等风险。 表2  金融大模型常见内生安全风险举例详解 2.金融大模型内生安全应对。金融大模型的安全风险多种多样，既有模型内部天然具有的不安全性，如数据泄露、隐私安全等风险也有外部的恶意攻击、大模型滥用等风险。为提升金融大模型的安全性、可靠性、公平性、隐私性、可解释性和鲁棒性，需要有相应的安全应对策略。内生安全应对可以从提升数据质量、强化模型学习、减少幻觉、安全评测和提升硬件安全等几个方面进行研究，以保证金融大模型的数据安全稳定、算法可解释、模型决策可信，应用合法合规和环境安全可靠。对于外部风险主要由国家法律法规和行业管理规范来进行监管规范。金融大模型安全框架是从全局视角剖析大模型训练、生产及应用中存在的安全风险问题，为大模型的研发及应用提供安全指导，其安全目标是构建可信、可控、可解释、可溯源的金融大模型，安全框架（见表3）主要包括大模型安全管理、数据安全、模型安全、环境安全和攻防安全。 表3  金融大模型安全框架内容详解 总结与展望 当前金融大模型发展尚不成熟，面临着诸多安全隐患与风险。可以预见，随着深度学习技术的发展和研究逐渐深入，未来大模型的攻防将在动态抗衡中不断升级，金融大模型需要应对的新型安全威胁将不断涌现和升级，建立完善统一的大模型安全评估框架、探索有效的防御机制、实现金融模型安全监管和可控生成，以及促进大模型安全生态的建设等任务迫在眉睫。 （此文刊发于《金融电子化》2024年10月上半月刊）

2024年，大模型进入产业落地爆发期。作为数字化程度最为领先的行业之一，金融行业大模型落地速度也在显著提速。 目前，金融机构对大模型的应用态度非常积极。一个重要的例证是，银行、保险、证券等在内金融机构发布的大模型招投标项目数量相比前年初的几个月出现了明显增长。 2024年1-11月份，智能超参数统计到了100多个金融机构发起的大模型相关采购中标项目。从中，我们可以一窥大模型技术在金融行业的最新落地进展。 金融行业大模型落地显著提速，百度领跑厂商中标榜 2024年1-11月份，我们统计到103个金融行业大模型中标项目，其中39个未披露中标金额（为便于统计，中标金额标注为0元），其余64个项目披露中标金额为20083.58万元。 从季度统计的中标项目数量和金额来看，今年下半年金融行业大模型落地显著提速。第四季度，我们仅统计了2个月的数据，但中标项目数量已经逼近第三季度，并且中标金额创下新高。 随着金融行业大模型中标项目数量达到一定规模，行业的领军厂商也逐渐显现。在智能超参数长期跟踪的6家知名通用大模型厂商中，百度表现突出，在主流大模型厂商中，拿下最关键的中标项目数量、中标金额两项第一。科大讯飞紧随其后，项目数量和中标金额都排名第二。两家厂商形成市场上领先优势明显的头部企业。 在两家企业之后，其他4家厂商，智谱AI 、火山引擎、阿里云、腾讯云则项目相对较少，成为市场上的第二梯队。值得注意的是，以项目数据来看，可以进入第二梯队的厂商众多，华讯网络、南天电子、深擎科技、可利邦等厂商也都有3个中标的金融大模型相关项目。 大模型集中落地金融行业四大应用场景 从2024年下半年开始，金融行业大模型中标项目数量开始快速增长，显示大模型技术在金融行业的加速渗透。以中标项目数量计算，金融行业能够稳居前五大行业，其余四个行业是教科、通信、能源、政务。 虽然金融机构的采购预算相对宽裕，但目前金融行业大模型中标项目的金额整体上看普遍还不够大。排除未披露金额的项目后，其余项目披露金额的中位数在142.8万元，比全行业略高一些。 从项目数量来看，应用类项目 （其中可能包含算力、大模型等）数量最多（64个），占比62%；大模型类项目（16个），数量占比16%，算力类项目22个，数量占比21%，数据类项目占比最少。 从披露金额来看，应用类项目披露的金额占比也是排名第一，算力类占比第二，大模型类占比第三，数据类项目的占比最低。 应用类项目数量和金额占比最多，表明金融机构更多的注意力聚焦在大模型技术在具体业务场景中的落地。而数据类项目数量和金额较少，这可能跟金融机构本身数据治理就较为领先和规范有关系。 在大模型类项目中，一个明显的趋势是越来越多的金融机构在建设大模型底座或者AI中台。这意味着大模型在金融机构中越来越重要的角色，并且可能会渗透到越来越多的业务场景之中。 所有应用类项目根据场景进行进一步细化，智能编程（13个）排名第一，但是其跟业务场景关联性较小。在跟业务紧密相关的场景中，知识平台&知识生成 （12个）、数字人&客服（ 11个 ）、智能审核（5个）排名前三。 在知识平台建设这个场景上，百度目前中标案例较多。以泰康保险为例，该企业通过基于百度智能云知识管理平台“甄知”打造了私有化、新一代的泰康知识中台，把泰康过去沉淀的行业知识、多源异构数据接入进来，基于大模型能力，将企业知识在内部更高效地流动，内勤工作人员可以快速获取公司最新的福利制度、通知公告，保险代理人则可以实时获取专业保险理赔建议，获取最新保险政策等。 银行业领跑金融行业大模型创新 在我们统计到的103个金融行业大模型中标项目中，覆盖金融机构类型越来越多，其中包括银行、保险、证券、金科公司、交易所、消金、监管机构等。 从数量上看，银行类机构发起的大模型相关采购项目数量最多（58个），占比达到 57%，其次是证券机构（15个），保险（13个），其他金融机构（17个）。披露的中标金额占比上来看，银行、证券稳居前两名。 从大模型项目的建设目标来看，目前大模型的落地尝试更多聚焦在金融机构的对内赋能上，比如加快合同的智能审核、企业知识高效获取与分享、提升智能运维效率等，但是也能看到部分企业开始尝试利用智能体进行一些核心业务上以前做不到的创新。 以保险行业为例，百度智能云基于10月新发布的工作流Agent探索、落地车险续保售前数字员工。过去，车险续保的工作指导包含大量流程、子流程、文档等内容，优秀销售人员稀缺，且培养周期往往长达一到两年。基于工作流Agent开发金牌销售数字员工，则最快可以在1小时内完成、上线，能够大幅提升企业车险业务的核心生产力。 目前来看，金融机构对于大模型技术的采用还处于智能风控、营销、客服、投顾等少数场景测试的阶段，一旦价值明确或者投资回报率可观，大模型技术可能才会逐渐深入到更多核心业务之中。当然，这个持续渗透的过程，还受到大模型技术进一步成熟，安全性提升，以及行业规范不断完善、监管政策明朗等因素影响。 最终，大模型在金融行业要真正发挥比较大的业务价值，还是得在直接面向客户的核心领域和场景里面，跟场景进行深度融合。如果只是泛泛地谈金融大模型，那就做不到有的放矢，并且对内使用和对外使用大模型技术，也有着明显不同的业务规则、数据安全规范、以及监管要求等。 现在可以肯定的一点是，明年将是一个关键时间节点，因为2024年诸多金融行业大模型落地案例将会迎来盘点价值的阶段。如果大模型能够证明价值，那么凭借金融行业机构的强大购买力，2025年将会是大模型在金融行业的爆发时刻。 说明：部分中标项目未披露中标金额，为方便统计，项目金额以0计算；此外可能存在统计遗漏，项目分类、行业分类等也并不严格，这都可能会影响最后的统计分析结果，请读者知晓。仅供参考。

金融界12月10日消息，有投资者在互动平台向宇信科技提问：董秘您好？贵司和智谱AI有合作？主要在哪些方面展开合作？谢谢。 公司回答表示：目前公司与智谱A已I建立密切合作关系。公司非常重视大模型在金融行业的应用价值和落地方案。 公司通过自主研发率先推出了首批金融行业大模型应用产品和解决方案，包括4个应用级产品和1个开发平台。公司积极与合作伙伴协调拓展在金融行业的方案和产品落地，已中标了某消费金融公司的智能营销服务项目，将运用先进的AI技术，帮助该客户实现更精准的用户洞察和营销管理，提升运营效率的同时，促进获客与转化。 公司将持续推进生成式AI带来的产品和业务升级机会，拓展市场，不断进行迭代完善。 本文源自金融界