AI金融助手

来源：经济日报 大模型技术已经开始快速“渗透”到各个工作领域，金融业也无不例外。清华大学经管学院发布的一份报告显示，生成式AI正在席卷金融业，释放新的生产力，以前所未有的方式重塑全球金融业的格局。目前，我国已经有6家上市银行公开发布大模型技术开发与应用的信息。 金融业需要大模型技术吗？从匹配度上看，金融业是典型的数据密集型产业，而大模型技术的一大特征就是具有强大的数据洞察理解能力，可以缩短数据间发生连接与被计算的时间，提高数据创造价值的效率。如果把大模型的能力放在金融业中去处理原有的一些任务，会对很多工作产生提质增效的效果。 从重要性上看，金融业的高速发展离不开金融科技的赋能。近年来，我国在金融科技上取得了很多创新成果，金融业数字化水平大幅提高，移动支付、数字信贷等技术领域更是处于全球领先地位。金融科技是技术驱动的金融创新，眼下大模型技术和应用正在加速迭代和探索，可能很快催生更多新模式，未来能不能发展好、利用好大模型技术，对于深化我国金融业数字化转型，提升金融业核心竞争力意义重大。 可以确定的是，大模型技术在金融业的应用空间广阔。以关注度正高的“文生视频”大模型为例，仅用简单的文本指令，就能生成一段具有逻辑性、大片质感的短视频，有机会让投资者更易理解结构复杂、特征各异的金融产品，进而成为理财师、保险经纪人等金融从业人员的得力助手，提升服务效率和服务体验。更为重要的是，大模型技术有望在风险防控环节发挥出关键作用。一方面，金融机构可以通过大模型海量神经网络数据检测客户各类行为，提高自身风险管理决策能力；另一方面，金融监管部门可以利用大模型优秀的逻辑推理能力，协助工作人员提高对财务造假等违法行为的监管查处效能。 中央金融工作会议强调，要做好包括数字金融在内的五篇大文章。在数字化时代，强化金融科技创新已成为当前发展数字金融的必然选择，大模型新技术则有望成为推动行业创新的重要引擎。金融机构应尽快提高认识，从公司发展战略的高度积极探索大模型应用，逐步审慎加大相关业务投入，打造数字化人才团队，勇于挖掘新的应用模式，力争推动大模型与自身业务的有效融合，发挥出“1+1>2”的作用。但需要注意，任何一项新技术都是一把双刃剑，当前大模型在金融领域的应用仍处于早期阶段，更要做好风险防控，特别是要重视对用户数据隐私的保护，唯有安全可靠的技术才能真正助力金融业高质量发展。（本文来源：经济日报 作者：马春阳）

文 / 上交所技术有限责任公司 陈洪炎 胡跟旺 卓航星 金融领域拥有天然的大量数据积淀，为大模型在金融领域的应用提供了良好的数据基础，因此金融行业大模型相较于其他行业的垂直大模型中落地速度相对较快。同时金融领域大模型的应用场景较多，大模型有助于从不同角度提升原有从业人员及机构的工作效率。大模型在金融领域的实践需要考虑多方因素，除了大模型技术框架对现有金融业务的效率提升以外，金融业务的专业性、严谨性、安全性及合规性要求对大模型在金融领域的应用实践也提出了更加严格的风险防控措施要求。 大模型的发展与应用 1.大模型架构。大模型最早诞生于自然语言处理领域，最开始自然语言模型通过神经网络预测单词，加入注意力机制后，使单词之间建立关系而考虑整句语言的含义，从而建立Transformer架构。谷歌和微软分别针对Transformer的编码部分以及解码部分进行研究从而产生了两条技术路线，即以BERT为代表的仅用编码器部分的路线和以GPT为代表的仅用解码器部分的路线。BERT与GPT都用到了预训练范式，预训练范式是指利用大量的数据训练一个基础模型，然后在下游任务上进行一点微调就能够在相应的任务上得到很好的性能表现。通过不断叠加数据并增加模型参数规模以及优化模型的提示工程，不仅可以解决更复杂的任务，同时也拥有了更强大的文本涌现能力。仅用编码器架构的大模型擅长对文本内容进行分析、分类，包括情感分析和命名实体识别，如BERT。仅用解码器架构通常用于序列生成任务，如文本生成、机器翻译等需要生成序列的任务，如GPT。为结合编码器和解码器的优点，出现了编解码器架构如T5和GLM。为了解决仅用解码器架构时内存占用高、响应慢等问题，微软提出双解码器Decoder-Decoder新型架构YOCO（You Only Cache Once），两个解码器分为自解码器（Self-Decoder）和交叉解码器（Cross-Decoder）两部分，以此来降低内存开销，提高性能及吞吐率。 2.大模型在金融领域的应用。随着硬件能力发展，算力已满足大模型的计算要求，大模型逐渐进入公众视野，大模型应用迎来了蓬勃发展，并在媒体影视、电商、广告营销、游戏、医疗、教育及金融等各行各业中得到广泛应用。大模型浪潮爆发后，国内各企业纷纷推出自研大模型。金融领域拥有天然的大量数据积淀，从而为大模型应用提供了良好的数据基础，大型科技企业如华为推出了盘古金融大模型，蚂蚁集团发布了金融大模型AntFinGLM。 金融行业的专业性、严谨性、合规性等特点，在把大模型技术应用到金融领域面临挑战，如：通用大模型的缺乏金融专业知识，通用大模型缺乏金融情境下上下文理解能力，通用大模型无法满足金融合规及监管等要求。金融机构在应用大模型到金融业务场景的过程中，一般需要经过两个主要步骤：一是从通用大模型进一步训练调优出专业的大模型；二是以大模型为核心，结合金融专业知识库、金融专业工具库、智能体、安全合规组件等构成一个可满足金融领域安全应用要求的应用系统，来支撑在金融大模型各场景中的应用。 3.金融大模型的开发框架。通用大模型在金融领域的适配一般需要经历数据收集、数据处理、在金融语义语境中训练通用大模型、参数微调、提高复杂推理能力、优化性能、减少幻觉、模型部署、模型评测、模型应用等流程。金融大模型开发框架（见图1）大致分为5个层次，即数据层、训练层、部署层、推理层和应用层。 图1 金融大模型开发框架 （1）金融数据收集。金融数据收集包括预训练数据、金融指令和安全数据。预训练数据主要包括广泛金融背景知识、语义语境认知等金融语料。预训练数据来源广泛，数据格式多样化，一般需要支持多模态输入处理。金融指令包括金融术语、指标计算、规范等专业知识。安全数据是为了满足安全合规要求，为保证大模型输出内容符合金融安全底线，遵从金融价值观而提供的必要输入数据。 （2）微调技术。从大模型参数规模来看，大模型微调分两种技术：一是全量微调（FFT），是对模型的所有参数进行训练；二是高效参数微调（PEFT）仅对部分参数进行训练。在金融大模型训练中较常使用的是PEFT，PEFT可以解决FFT带来的问题，即：FFT的训练成本很高，一般大模型的参数量较多，FFT相当于对模型进行了一次重新训练，FFT进行全参重训之后的大模型能力可能会变更差。PEFT的目的是能够在可控成本的前提下，尽可能地提升大模型在特定领域的能力。 （3）思维链增强。思维链（Chain of Thought，CoT）是通过让大模型逐步参与将一个复杂问题分解为一步一步的子问题并依次进行求解的过程，通过构建模型来模拟人类思考过程，形成一个连贯并符合逻辑的思维过程。CoT被认为是一种开创性且最具影响力的提示工程技术。但传统的CoT一般是线性链式结构，这限制了金融大模型在处理复杂金融领域任务时的推理能力，因此需要采用思维链增加技术（见表1）来提高推理能力。 表1  思维链CoT增加技术 （4）智能体。智能体是指能够自主感知环境、做出决策并执行行动的系统。智能体具备自主性、交互性、反应性和适应性等基本特征，能够在复杂多变的环境中独立完成任务。金融领域智能体可以分为三大模块：感知、记忆和行动。感知是从外界获取信息，记忆是存储知识、处理信息并做出决策，行动是向外界反馈信息。智能体自我反思是对智能体之前的活动进行回顾性思考，以纠正之前错误认知并完善行动决策。 金融大模型安全 大模型在金融领域的实践需要考虑多方因素，除了大模型技术框架对现有金融业务的效率提升以外，金融业务的专业性、严谨性及合规要求对大模型在金融领域的应用实践也提出了更加严格的风险防控措施要求。金融大模型安全挑战主要分为内生安全及应用安全。内生安全是金融大模型在研发过程中设计的基础设施、数据、模型、算法、训练过程、部署等环节中遇到的安全风险，而应用安全是金融大模型的不合理应用、滥用或恶意使用而引入的决策失控风险。内生安全问题应由大模型研发团队关注，应用安全则需要法律法规和行业管理规范来监管和控制。 1.金融大模型内生安全。金融大模型的研发生命周期可分为数据收集处理、模型训练、模型部署和模型落地应用四个阶段。其中数据收集处理阶段主要收集、处理、储存大模型训练需要的预训练数据、安全数据和金融指令等；模型训练阶段对海量数据进行预训练、调参、对齐、构建智能体等；模型部署是将训练好的大模型适配特定的硬件资源，并尽量提高大模型的实时性和推理效率；模型落地应用是用大模型解决各种实际的金融任务。 金融大模型的内生安全风险在不同的生命周期阶段有所不同，也有部分安全风险贯穿在全研发生命周期中（见表2）。在数据收集处理阶段，潜在数据泄漏、数据投毒等风险；在模型训练阶段，潜在后门攻击、数据泄漏、数据污染、模型篡改、模型窃取攻击、AI组件漏洞等风险；在模型部署阶段潜在平台漏洞、硬件漏洞、供应链投毒等风险；在模型落地应用阶段，潜在事实性错误、隐私泄漏、提示注入、对抗攻击、内容安全、大模型滥用、伦理安全等风险。 表2  金融大模型常见内生安全风险举例详解 2.金融大模型内生安全应对。金融大模型的安全风险多种多样，既有模型内部天然具有的不安全性，如数据泄露、隐私安全等风险也有外部的恶意攻击、大模型滥用等风险。为提升金融大模型的安全性、可靠性、公平性、隐私性、可解释性和鲁棒性，需要有相应的安全应对策略。内生安全应对可以从提升数据质量、强化模型学习、减少幻觉、安全评测和提升硬件安全等几个方面进行研究，以保证金融大模型的数据安全稳定、算法可解释、模型决策可信，应用合法合规和环境安全可靠。对于外部风险主要由国家法律法规和行业管理规范来进行监管规范。金融大模型安全框架是从全局视角剖析大模型训练、生产及应用中存在的安全风险问题，为大模型的研发及应用提供安全指导，其安全目标是构建可信、可控、可解释、可溯源的金融大模型，安全框架（见表3）主要包括大模型安全管理、数据安全、模型安全、环境安全和攻防安全。 表3  金融大模型安全框架内容详解 总结与展望 当前金融大模型发展尚不成熟，面临着诸多安全隐患与风险。可以预见，随着深度学习技术的发展和研究逐渐深入，未来大模型的攻防将在动态抗衡中不断升级，金融大模型需要应对的新型安全威胁将不断涌现和升级，建立完善统一的大模型安全评估框架、探索有效的防御机制、实现金融模型安全监管和可控生成，以及促进大模型安全生态的建设等任务迫在眉睫。 （此文刊发于《金融电子化》2024年10月上半月刊）

2024年，大模型进入产业落地爆发期。作为数字化程度最为领先的行业之一，金融行业大模型落地速度也在显著提速。 目前，金融机构对大模型的应用态度非常积极。一个重要的例证是，银行、保险、证券等在内金融机构发布的大模型招投标项目数量相比前年初的几个月出现了明显增长。 2024年1-11月份，智能超参数统计到了100多个金融机构发起的大模型相关采购中标项目。从中，我们可以一窥大模型技术在金融行业的最新落地进展。 金融行业大模型落地显著提速，百度领跑厂商中标榜 2024年1-11月份，我们统计到103个金融行业大模型中标项目，其中39个未披露中标金额（为便于统计，中标金额标注为0元），其余64个项目披露中标金额为20083.58万元。 从季度统计的中标项目数量和金额来看，今年下半年金融行业大模型落地显著提速。第四季度，我们仅统计了2个月的数据，但中标项目数量已经逼近第三季度，并且中标金额创下新高。 随着金融行业大模型中标项目数量达到一定规模，行业的领军厂商也逐渐显现。在智能超参数长期跟踪的6家知名通用大模型厂商中，百度表现突出，在主流大模型厂商中，拿下最关键的中标项目数量、中标金额两项第一。科大讯飞紧随其后，项目数量和中标金额都排名第二。两家厂商形成市场上领先优势明显的头部企业。 在两家企业之后，其他4家厂商，智谱AI 、火山引擎、阿里云、腾讯云则项目相对较少，成为市场上的第二梯队。值得注意的是，以项目数据来看，可以进入第二梯队的厂商众多，华讯网络、南天电子、深擎科技、可利邦等厂商也都有3个中标的金融大模型相关项目。 大模型集中落地金融行业四大应用场景 从2024年下半年开始，金融行业大模型中标项目数量开始快速增长，显示大模型技术在金融行业的加速渗透。以中标项目数量计算，金融行业能够稳居前五大行业，其余四个行业是教科、通信、能源、政务。 虽然金融机构的采购预算相对宽裕，但目前金融行业大模型中标项目的金额整体上看普遍还不够大。排除未披露金额的项目后，其余项目披露金额的中位数在142.8万元，比全行业略高一些。 从项目数量来看，应用类项目 （其中可能包含算力、大模型等）数量最多（64个），占比62%；大模型类项目（16个），数量占比16%，算力类项目22个，数量占比21%，数据类项目占比最少。 从披露金额来看，应用类项目披露的金额占比也是排名第一，算力类占比第二，大模型类占比第三，数据类项目的占比最低。 应用类项目数量和金额占比最多，表明金融机构更多的注意力聚焦在大模型技术在具体业务场景中的落地。而数据类项目数量和金额较少，这可能跟金融机构本身数据治理就较为领先和规范有关系。 在大模型类项目中，一个明显的趋势是越来越多的金融机构在建设大模型底座或者AI中台。这意味着大模型在金融机构中越来越重要的角色，并且可能会渗透到越来越多的业务场景之中。 所有应用类项目根据场景进行进一步细化，智能编程（13个）排名第一，但是其跟业务场景关联性较小。在跟业务紧密相关的场景中，知识平台&知识生成 （12个）、数字人&客服（ 11个 ）、智能审核（5个）排名前三。 在知识平台建设这个场景上，百度目前中标案例较多。以泰康保险为例，该企业通过基于百度智能云知识管理平台“甄知”打造了私有化、新一代的泰康知识中台，把泰康过去沉淀的行业知识、多源异构数据接入进来，基于大模型能力，将企业知识在内部更高效地流动，内勤工作人员可以快速获取公司最新的福利制度、通知公告，保险代理人则可以实时获取专业保险理赔建议，获取最新保险政策等。 银行业领跑金融行业大模型创新 在我们统计到的103个金融行业大模型中标项目中，覆盖金融机构类型越来越多，其中包括银行、保险、证券、金科公司、交易所、消金、监管机构等。 从数量上看，银行类机构发起的大模型相关采购项目数量最多（58个），占比达到 57%，其次是证券机构（15个），保险（13个），其他金融机构（17个）。披露的中标金额占比上来看，银行、证券稳居前两名。 从大模型项目的建设目标来看，目前大模型的落地尝试更多聚焦在金融机构的对内赋能上，比如加快合同的智能审核、企业知识高效获取与分享、提升智能运维效率等，但是也能看到部分企业开始尝试利用智能体进行一些核心业务上以前做不到的创新。 以保险行业为例，百度智能云基于10月新发布的工作流Agent探索、落地车险续保售前数字员工。过去，车险续保的工作指导包含大量流程、子流程、文档等内容，优秀销售人员稀缺，且培养周期往往长达一到两年。基于工作流Agent开发金牌销售数字员工，则最快可以在1小时内完成、上线，能够大幅提升企业车险业务的核心生产力。 目前来看，金融机构对于大模型技术的采用还处于智能风控、营销、客服、投顾等少数场景测试的阶段，一旦价值明确或者投资回报率可观，大模型技术可能才会逐渐深入到更多核心业务之中。当然，这个持续渗透的过程，还受到大模型技术进一步成熟，安全性提升，以及行业规范不断完善、监管政策明朗等因素影响。 最终，大模型在金融行业要真正发挥比较大的业务价值，还是得在直接面向客户的核心领域和场景里面，跟场景进行深度融合。如果只是泛泛地谈金融大模型，那就做不到有的放矢，并且对内使用和对外使用大模型技术，也有着明显不同的业务规则、数据安全规范、以及监管要求等。 现在可以肯定的一点是，明年将是一个关键时间节点，因为2024年诸多金融行业大模型落地案例将会迎来盘点价值的阶段。如果大模型能够证明价值，那么凭借金融行业机构的强大购买力，2025年将会是大模型在金融行业的爆发时刻。 说明：部分中标项目未披露中标金额，为方便统计，项目金额以0计算；此外可能存在统计遗漏，项目分类、行业分类等也并不严格，这都可能会影响最后的统计分析结果，请读者知晓。仅供参考。

金融界12月10日消息，有投资者在互动平台向宇信科技提问：董秘您好？贵司和智谱AI有合作？主要在哪些方面展开合作？谢谢。 公司回答表示：目前公司与智谱A已I建立密切合作关系。公司非常重视大模型在金融行业的应用价值和落地方案。 公司通过自主研发率先推出了首批金融行业大模型应用产品和解决方案，包括4个应用级产品和1个开发平台。公司积极与合作伙伴协调拓展在金融行业的方案和产品落地，已中标了某消费金融公司的智能营销服务项目，将运用先进的AI技术，帮助该客户实现更精准的用户洞察和营销管理，提升运营效率的同时，促进获客与转化。 公司将持续推进生成式AI带来的产品和业务升级机会，拓展市场，不断进行迭代完善。 本文源自金融界

来源：人民网 人民网北京12月6日电 （记者杜燕飞）“我们要积极拥抱新技术，加快数字化转型。”“加强安全管理，保障大模型有序发展。”日前，第二届大模型金融应用创新与实践大赛在京启动，旨在分享金融业大模型应用的前沿实践，探索金融应用场景，评价金融应用效果。 参会嘉宾表示，希望通过活动的举办，为行业提供展示和竞技的舞台，通过交流形成发展的共识、以他山之石拓思路，筛选出具有影响和推广潜力的优秀方案。同时，加快构建促进金融科技核心技术成果转化的平台，激发大模型在金融领域的应用场景创新和生态构建。 “我们将为参赛者提供必要的算力、模型及数据支持，以实战演练的方式提升大模型的应用效能，形成可工程化实施的解决方案。”奇富科技CEO吴海生表示，“近年来我们积累了数据安全实战的经验和技术能力，采取数据加密、脱敏处理、隐私计算等方式，建立了数据管控体系，重视数据全生命周期管理，保障用户的数据安全及财产安全。在今年中国互联网金融协会发布的《金融数据安全治理实施指南》标准中，我们担任了主起草单位的工作。希望通过不断探索，推动大模型在金融应用领域的安全发展。” 第二届大赛由北京金融信息化研究所联合北京市西城区总工会、青岛市金家岭金融区管委会、北京金融科技产业联盟等机构共同举办，奇富科技等承办。 据介绍，在2024年初举办的首届大赛中，共收到来自工商银行、农业银行、中国银行、建设银行、蚂蚁科技、百度网讯、腾讯云等39家机构68份应用实践报告。经公开征集、初赛筛选、专家终审等环节，最终评选出10篇十佳卓越案例，11篇十佳优秀案例和4篇创新实践案例。

在12月6日举行的2024滴水湖新兴金融年度大会上，《上海全球资产管理中心建设 资产管理大模型应用实践与指南》（以下简称《实践指南》）正式发布。 《上海全球资产管理中心建设 资产管理大模型应用实践与指南》 发布仪式 在中共上海市委金融委员会办公室的指导下，在中国(上海)自由贸易试验区临港新片区管理委员会特别支持下，为了进一步贯彻落实《上海高质量推进全球金融科技中心建设行动方案》，上海资产管理协会、智能投研技术联盟（ITL）联合多家成员机构共同撰写《实践指南》。为进一步推动大模型在资管领域、财富管理领域的应用深入，加强行业与基础大模型、垂类大模型机构的交流与合作，致力于为行业提供一套全面、系统的实践指南和技术指导，以促进大模型技术在资产管理与财富管理领域的健康发展，资产管理与财富管理创新应用典型场景与应用实践案例同时发布。 创新应用典型场景提炼了大模型在资产管理、财富管理领域落地的基金投研助手、投资顾问助手、财报分析助手、风险合规助手、智能化办公等16个典型应用场景。聚焦资产管理与财富管理领域大模型应用实践现状、挑战及机遇，汇聚了来自银行及银行理财、证券及券商资管、公募及私募基金、保险资管、科研院所、大模型科技公司、法律服务及审计机构等众多资产管理、财富管理领域专家的智慧和实践经验。 创新应用实践案例展示了15家金融机构在银行及银行理财、证券及券商资管、公募及私募基金、保险资管实际业务中的大模型应用案例，聚焦应用落地效果和业务价值。分析了大模型技术的演进历程及其在资产管理与财富管理领域的应用潜力。讨论了大模型在资产管理和财富管理领域的应用现状。提出了资产管理与财富管理领域大模型应用的建设路径。涵盖了风险合规管理、安全与伦理问题防范、人才培养以及资产管理与财富管理领域大模型应用测评指南等重要内容。 数智技术在快速发展，金融资管业务在不断开拓， 技术与业务融合发展空间很大，永无止境， 需要行业不断进取，牢牢把握新技术前沿应用。相信大模型技术将在资产管理与财富管理领域发挥越来越重要的作用。希望典型应用场景与应用实践案例能够为资产管理和财富管理行业的决策者、管理者、技术人员提供参考和启发，有助于资产管理和财富管理行业机构有效利用大模型技术，支持提升投研工作效率，增强风控管理能力，尽可能满足客户服务体验，同时确保合规性和安全性要求。 2024滴水湖新兴金融大会 扫码关注我们 特别声明：本文经上观新闻客户端的“上观号”入驻单位授权发布，仅代表该入驻单位观点，“上观新闻”仅为信息发布平台，如您认为发布内容侵犯您的相关权益，请联系删除!

本文来源：时代财经 作者：周梦梅 AI大模型正在从技术变革走向产业变革。作为AI技术落地的重要行业之一，金融领域的大模型已在创造越来越多的价值增量。 当下，无数的AI应用，正在重新定义我们与数字世界交互方式。以金融行业AI大模型为例，语音助手、智能投研、合规助手、反欺诈……各式的金融大模型正在搅动着金融行业变革。 AI浪潮中，躬身入局的弄潮儿，已在摘取AI应用落地低垂的果实。 作为一家技术驱动的数字金融机构，马上消费金融（下称马上消费）于 2017 年就成立人工智能研究院，已推出包括全国首个零售金融大模型“天镜”在内的多款 AI 产品，成为金融大模型的领军者之一。 11 月 28 日，以“打造新生态、合作赢未来”为主题，马上消费承办的重庆首届数字产业领域千人大会“2024 数字产业生态伙伴大会”开幕。作为金融大模型技术国际标准制定者、中国首个金融大模型“天镜”开发者，马上消费重磅推出全面迭代升级的天镜大模型 2.0 版本。 “不是所有大模型都越大越好，企业应用级的轻量模型也值得探索，（我们）要以AI赋能百行千业向新向智。”11月28日，马上消费常务副总经理蒋宁作发表“金融大模型发展与思考”的主旨演讲，并接受媒体采访。 他表示：“金融行业的价值链很长，有广泛的应用场景，需要多个大模型，它们各有所长，（我们）可以把它们有效地组合在一起，做成具备某种专长的轻量模型，而不是让一个巨大的模型来解决所有问题。” 天镜”2.0 多维度、多领域重塑行业体系 经济学理论中有一个“低垂的果实”理论，即一棵树上总有些果子结在较低的位置。这指的是在科技成熟的初期，掌握先机者通过简单创新就能快速地获取低处的果实。 AI浪潮奔涌而来，一些机构的金融大模型已经在创造价值增量，摘取果实。 蒋宁表示：当下在财富、信贷、支付领域都有非常优秀的（轻量）金融大模型落地的案例，在全球 以马上消费发布的天镜大模型为例，其最新推出的“天镜2.0在模型技术创新、标准制定、科研转化成果、具体应用等核心领域取得了突破性进展。 在具体应用方面，“天镜”2.0 在金融安全、大数据决策、人机交互、消费者权益保护、逻辑推理泛化等方面都展现出强大的潜力和价值。 “天镜2.0最大的变革之一，是具备泛场景的泛化能力。”蒋宁在现场表示，天镜2.0围绕金融大模型通用人工智能做了深度探索，特别是对话领域实现了由数据驱动大模型，具备迁移学习的能力，能够适应不同的市场、产品和情景。” 对抗学习技术也是本次天镜2.0的重要亮点之一。 蒋宁提到，大模型生成式 AI 在辅助内容生产的同时也给金融安全带来了巨大挑战，假单据、假人脸、假数据等现象频出。 “天镜” 2.0 针对这些安全隐患专门研发了对抗学习技术，将多模态的技术进行深度融合，把声音、文字、视频等多维度信息整合，构建全新的对抗学习防伪新体系，全方位、多层次地有效提升金融安全防护能力，为金融行业的稳定与安全保驾护航。 蒋宁在演讲的过程演示“天镜” 2.0，当大模型识别到视频对方人物面部表情僵硬，没有自然的微表情变化，头发过于顺滑且缺乏色彩及自然光泽，大模型会自动做出预警，提醒受害者。 天镜大模型也在广泛地赋能金融从业者。 蒋宁提到，去年在大模型的新一轮技术革命中，马上消费依托两亿用户数据和 2500 多人的工程师团队，自主研发的全国首个金融领域大模型“天镜”大模型，已实现智能营销交互、数据决策支持、防伪安全等八大应用场景，全面服务了超 2 亿用户。 金融大模型价值显现 “现阶段的基座大模型，就像是原来互联网时代的基础设施。后面更长一段时间是在互联网平台上生长出垂直应用。”马上消费人工智能研究院院长陆全在活动现场接受了媒体专访。 他进一步解释称：“中国现在的大模型分两种，一种是基础模型，如百度的文心一言。基座模型有开源的，也有不开源。基础模型在一些准确性要求很高、专业性要求强场景无法直接适用；一类是（行业）垂类模型，面向某些行业或场景，解决它们特定的需求。如某个金融场景对准确性要求高，就打造出适合这一金融场景的大模型。”...

大模型的横空出世，给各行各业都带来了震撼式的变化。就业环境是不是要变天了？模型开发是不是要天翻地覆了？作为数字化建设的排头兵，金融行业以其海量的数据源、标准化的信息基础建设以及领先的科技能力一直独占鳌头，这一次大模型的出世，是否意味着金融行业也将率先试水，积极落地？答案是肯定的。 麦肯锡的研究报告显示，应用生成式AI大模型每年为企业端带来的经济价值为2.6万亿-4.4万亿美元。其中，全球银行业使用大模型可使其每年营业收入提高2.8%—4.7%，这一比例高于全球制造业、零售业、旅游业、运输业和物流业等所有其他行业。这一数字足以见得大模型在金融行业有着无穷的发展潜力。 然而，虽然数据足够诱人，但是到了落地应用这一实践环节，层出不穷的难题还是让各大金融机构措手不及。有观点认为，大模型的问世或将加剧行业“马太效应”催化加剧前后差距。 也有分析给出了截然相反的观点，认为大模型的存在更是为头部金融机构“弯道超车”带来了前所未有的机遇和可能性，而小机构的大模型机遇却尚未可知。无论如何，属于金融业的大模型时代已经到来！ 大模型在金融圈快速落地生根 要想看看大模型在金融圈究竟有多大的影响力，首先我们来看两组数据。第一组：据智研瞻统计显示，2019年中国金融大模型行业市场规模250.49亿元，2024年Q1中国金融大模型行业市场规模90.82亿元，同比增长7.10%。第二组：据智研瞻预测，2024—2030年中国金融大模型行业市场规模增长率在6.36%—7.10%，2030年中国金融大模型行业市场规模534.97亿元，同比增长6.94%。 规模的攀升是一个明显指征，不得不说大模型已经一夜之间在金融圈遍地开花。那么大模型到底如何在金融圈大展拳脚？以下我们就通过一些实际应用案例来体会一下，大模型给金融圈带来的变化。 先说一个银行的典型场景人工坐席。在传统银行中，远程银行的运营团队往往拥有大量的人工座席，而这些人工座席往往又要面对超负荷的质检工作量，提效困难。大模型的出现，则重新定义了这个群体的作业和生产模式。 联想集团基于大模型的能力赋能全流程业务场景，让人工座席增效显著。在事前运营阶段，通过辅助知识维护，自动生成问答式对话、相似问答等方法，可以迅速提升知识运营的效率。在事中运营阶段，通过诉求了解、问题解答、工单记录，可以分别实现诉求摘要、工单自动填写等功能，充分辅助了全流程，有效降低了座席通话时长。在事后管理阶段，借助大模型还可以实现对客服水平的精细化质检以及对工单的智能质检，充分起到了辅助业务运营全流程的作用。 再说一个质检的场景。传统小模型，在智能质检的进程中，往往都有一些先天的局限性，比如质检项单一，无法匹配全渠道服务；准确率低，难以应对复杂流程和逻辑；漏检风险大，人力难以将自然语言的表达方式全面扩写，导致漏检；投入大、周期长，传统小模型智能质检需要人工对业务规则进行全面梳理配置，耗时耗力。容联云大模型产品负责人唐兴才认为，导致这些的原因第一是由于质检机器人没有准确理解对话内容；第二是无法对全量会话进行全局统计和深入解读，比如结合上下文后判断。 针对这些问题，容联云将大小模型结合，创新打造大模型质检代理（容犀Quality Management Agent），对全量会话进行“大模型语义质检+小模型规则质检”，真正实现效果与性能双重保障，并结合多年的证券knowhow，推出“证券行业-大模型质检代理解决方案”。该大模型质检代理（QM Agent）熟练掌握证券专业术语，深入对网开单向见证人工回访、常规存量客户智能外呼回访等业务场景，对服务记录进行全量智能质检，助力券商保障业务流程的合规性与高效性，提升服务质量，优化客户体验。 在落地应用中，容联云与某券商的合作，对接券商智能外呼系统、回访管理系统等业务系统、构建客户服务智能质检系统，对工作规范、服务意识及风险把控进行全面质检，实现质检准确率大于94%、漏判率小于3.5%。 下面再让我们来看一个金融智能营销的应用案例。枫清科技（Fabarta）在与龙盈智达合作打造了基于图智能和大模型的金融营销平台。通过图算法和图数据库以及大模型的应用，可以有效地发现潜在客户之间的复杂关系和网络，从而提供智能化的风险评估报告，帮助银行更好地了解风险，减少不良贷款率，提高资产质量。利用图分析平台，提供用户友好的图数据可视化工具，帮助更好地理解客户信息以及风险情况，展示其实控人、集团关系、交易链路等信息以及潜在风险，提供直观的决策支持，并通过大模型智能生成风险分析报告。同时，注重合规性和数据隐私，帮助银行提升营销目标用户的挖掘以及风险识别，从而实现更好的业绩表现与可持续盈利。 除了以上应用，金融大模型还在智能投顾、保险、个人信贷、用户行为分析等众多金融领域有广泛的应用。比如，智能投顾领域，Wealthfront和Betterment平台，使用大模型来分析市场数据和用户行为，根据用户的风险偏好、投资目标和市场情况，自动调整投资组合，以达到最优的资产配置；在保险行业，Lemonade保险公司利用大模型进行风险评估和理赔处理，通过分析用户的在线行为和社交媒体数据，提供个性化的保险产品，并在理赔时使用人工智能技术来快速识别和处理合法的索赔请求，大大缩短了理赔时间等等。 这些案例充分展示了大模型如何在金融领域实现创新，提高服务效率，降低成本，并为用户带来更加个性化和高质量的金融体验。随着技术的不断进步，我们可以预见大模型将在金融领域扮演越来越重要的角色。 大模型于金融业而言是挑战更是机遇 怎么来准确定义金融大模型是个非常好的问题。既不是通用大模型的拿来主义，也非通用大模型+金融场景的生硬加法。金融大模型更像是一场对金融行业的系统化重塑，重塑的范围包括但不限于基础设施、模型算法、业务流程、场景应用等等。 据2024年金融业生成式人工智能应用报告显示，生成式AI正在席卷金融业，释放新的生产力，赋能银行数字化转型，以前所未有的方式重塑全球金融业的格局。有望给金融业带来3万亿规模的增量商业价值，并可能彻底改变交易的进行、投资的管理和风险的评估方式。 然而，大模型能成为金融业的救命解药吗？大模型的出现，是否就意味着金融业可以摇身一变，加速直冲智能化巅峰？显然，在光鲜亮丽的背后，大模型在金融业的发展也并未如预期中的一路坦途，伴随着各种各样的瓶颈挑战，大模型在金融业的摸索试探也从未停止。 大模型本质是一个海量参数的深度学习算法，受制于模型黑箱、计算复杂度高、可解释性不足、推理结果不可预知等先天因素，大模型在金融业想要有更深入的发展要克服的障碍还有很多。 首先，金融大模型要解决的就是“黑箱”问题。金融大模型因其复杂的模型结构以及海量的参数，使得模型的决策过程不透明，难以解释。然而，在金融领域，模型的可解释性却恰恰尤为重要，因为监管机构和用户都需要理解模型是如何做出决策的。提高模型的可解释性，可以帮助建立用户信任，同时满足监管和审计的双重要求。那么，有没有方法解决？ 在面对“黑箱”难题时，枫清科技（Fabarta） 给出了“一体两翼”的解法。如何理解“一体两翼”？简单来说，就是为了帮助企业降低模型幻觉、可解释性差，提升推理能力而设计的产品矩阵。在引擎层，以 Data-Centric AI 为核心理念构建的多模态智能引擎。支持图、向量、表格、时序、JSON 等多种数据模态的融合与处理，将传统数据库的“存储&计算”架构演进为“记忆&推理”架构，可以为 AI 智能应用提供私有记忆和可解释的精确推理;。在数据翼，通过智能化方式，通过元数据智能补齐、统一语义层等实现，做到AI落地的数据就绪；在智能翼，通过知识引擎和智能体引擎，助力企业场景落地。通过“一体两翼”的产品矩阵，有效帮助企业减少幻觉、提升推理能力和可解释性，并提供数据安全与数据时效性。为了让用户真正能够信任大模型并且使用好大模型产品，可以通过几个方面来消除用户的顾虑。 针对幻觉问题，可以通过这几种方式进行缓解：可以利用外挂知识库方式限定回答范围，杜绝大模型“胡说八道”；也可以将确定的知识构建图谱，利用图谱结合大模型进行问题回答，通过确定性知识减少大模型回答的幻觉问题。 针对可解释性，一方面可以进行知识溯源，在进行文本内容生成时，针对生成的内容用户可直观地看到回答来源，同时可以通过点击角标直接跳转到对应文档中的具体段落，做到回答可追溯；同时可以将大模型思考过程展示给用户，做到过程可解释。 枫清科技（Fabarta）为企业提供基于知识引擎与大模型双轮驱动的智能体应用支撑平台，通过统一语义层，可以将企业的多模态数据转化为大模型可理解的知识，存储在图和向量融合的多模态智能引擎中，结合Hybrid RAG 能力，借助平台的可扩展能力（包括解析器自定义注册、大模型和向量算法自定义注册和使用、智能体工具以及自定义扩展等），在生成式人工智能落地企业场景过程中，可以帮助企业有效地解决可解释性差、推理能力弱的问题，减少大模型幻觉，提升企业对于时效性数据的使用，加速企业级大模型场景落地。 其次，如何在模型复杂度与操作便捷性之间寻找到合适的平衡点是金融领域一个复杂而关键的挑战。随着模型复杂度的增加，其性能可能会提高，但同时也可能导致操作难度增加，影响用户体验。如何无法找到二者之间的合理平衡，那么不但金融大模型的优势无法发挥触达，还会进一步影响用户体验以及最终决策。那么如何破圈？容联云在这个问题下分四个维度，给予我们一个全新的思维链路。 第一，通过优化模型性能，提升大模型的精确度和泛化能力以及部分场景结合小模型的高性能的优势。这一步有几个关键点，尤为重要。 模型压缩与量化。模型压缩，剪枝去除不重要的连接或参数，降低模型复杂度和存储需求，同时对性能影响较小；知识蒸馏将复杂模型的知识提取到较小的模型中，保持较高准确性的同时减小模型规模，便于部署和应用，适合对计算资源有限的金融场景。 算法优化。缓存重用：在推理过程中，重复利用已经计算过的中间结果，避免重复计算，提高效率；模型融合：将多个相关的小模型融合为一个大模型，减少模型切换和数据传输的开销。 降低模型计算成本。轻量化模型设计：采用模型剪枝、量化等技术，减少模型参数和计算量，提高推理速度。比如容联云赤兔大模型提供了多种参数版本的选择，可以在不同场景下使用；会话洞察、话术挖掘、质检等离线场景，可以很好地平衡算力消耗与效果的优势。分布式计算：利用高性能计算集群和分布式训练技术，加速模型训练过程。比如实时辅助、智能知识库、智能问答等场景，后端结合了上面提到的缓存、分布式计算等能力，可以最大程度地优化算力使用与用户体验。 第二，用户操作便捷性产品设计。首先是简化操作流程。设计简洁明了的用户界面，减少用户操作步骤和复杂度；通过智能助手或聊天机器人，为用户提供操作指引和帮助。其次是提供个性化服务。利用大模型分析用户行为和偏好，构建精准的用户画像，提供个性化的金融产品和服务；根据用户画像和实时市场情况，为用户提供定制化的投资建议、风险评估等服务。 第三，数据质量的不稳定性。金融数据的准确性直接影响大模型的预测能力。金融大模型依赖于高质量的数据来进行风险评估和预测。数据质量的不稳定、数据的不完整性、时效性不足或偏差都可能导致模型无法准确捕捉风险因素，从而影响决策的准确性。同时，数据质量还直接关系到模型训练的效果。不稳定的数据可能导致模型过度拟合或欠拟合，影响模型的泛化能力。要想从根本上解决数据质量的问题，金融机构还需要通过建立和完善数据治理框架，确保数据的准确性、完整性和一致性，并投入更多的资源来确保数据的清洗、验证和更新，以维持模型的准确性和可靠性。 第四，老生常谈的数据隐私与安全问题。数据隐私和安全是大模型应用中的核心问题。金融数据通常包含敏感信息，如个人身份、财务状况等。大模型在处理这些数据时，必须遵守数据保护法规，在数据收集、存储和处理过程中，确保用户的隐私权益得到保护，并采取严格的安全措施来防止数据泄露。 大模型的金融之路在脚下还是在远方？...

今天分享的是：大模型专题：2024年中国金融大模型产业发展洞察报告 报告共计：34页 《2024年中国金融大模型产业发展洞察报告》由艾瑞咨询发布，对中国金融大模型产业进行了深入分析。 – 发展背景介绍：大模型技术从“专用智能→通用智能→专业化智能”转变，与金融业务需求高度适配。金融行业数字化转型需求推动大模型产业化应用，金融大模型应运而生。 – 结构特征与优势能力分析：金融大模型核心结构由通用大模型基座、专用模型工具链、私域业务场景训练组成。通用大模型为金融大模型提供基础能力和算法支持，工具链助力金融大模型建设降本增效，垂类场景训练提升大模型业务适配能力。金融大模型在产品构建期降低成本、保留差异化竞争空间、与底层模型同步迭代；在模型使用期模型精准、结果可靠、产品结构轻量化；在迭代维护期应变能力强、维护及迭代成本低。 – 卓越者评选：评选出东方财富、马上消费、奇富科技等20家中国金融大模型产业卓越服务厂商，评估指标包括行业深耕程度、产品与技术能力、服务能力及生态能力。 – 未来趋势预判：金融大模型产业发展将以需求端为导向，业务与科技深度结合。数据合规应用与成本、成效间的权衡将影响垂类大模型实践效果，边缘部署与轻量化建设或将成为趋势。AI Agent智能体将推动大模型能力落地应用，金融大模型未来将与小模型及其他AI产品协同应用，承担更重要的金融投资角色，但需解决技术、业务与合规方面的应用困境。 – 专家之声：软通动力集团高级副总裁车忠良认为应构建“1 + V + n”的AI基础模型支撑体系；恒生聚源CEO吴震操指出金融大模型建设需要厂商在金融领域有足够经验积累；中关村科金CTO李智伟强调科技企业垂类行业经验的关键作用；腾讯金融云副总经理王丰辉表示混元大模型有模型底座与场景生态优势，未来将聚焦深度与精准度。 总之，中国金融大模型产业发展前景广阔，但仍需解决一些挑战，如数据合规应用、边缘部署与轻量化建设、技术能力迭代等。 以下为报告节选内容 返回搜狐，查看更多 责任编辑：

第十届金融科技国际会议26日在沪召开，此次会议主题为“数字金融助力金融高质量发展”。当天会上，上海财经大学上海国际金融中心研究院金融科技首席专家张立文强调了金融大模型与小模型结合的重要性。 上证报中国证券网讯（记者 孙忠）第十届金融科技国际会议26日在沪召开，此次会议主题为“数字金融助力金融高质量发展”。当天会上，上海财经大学上海国际金融中心研究院金融科技首席专家张立文强调了金融大模型与小模型结合的重要性。 张立文认为，尽管金融大模型在处理广泛数据和复杂任务方面具有优势，但在特定领域的专业性和精确性上可能不如小模型。因此，他提倡在合规和细致的业务方向上，大模型可能更适合发挥作用。在实际应用中，大模型可以作为技术底座，为金融大模型产品的构建提供底层技术能力、算法和基础参数等支持。同时，要架起模型层与应用层的桥梁，解决特定领域应用能力短板问题。 张立文认为，在金融科技领域，大模型与小模型的结合应用正引领着行业的创新浪潮。生成式大模型，能够处理和分析海量数据，生成投资报告和市场预测，而小模型则专注于特定场景任务，确保大模型输出内容的准确性和逻辑性。这种结合不仅提高了金融服务的效率，还增强了风险管理和欺诈检测的能力。再加上AI Agent系统的引入，实现了决策的智能化，提升了交易自动化的速度和效率。这些技术的融合应用，正在重塑金融业务的各个方面，从营销到投资管理，再到后台管理，都在经历着由AI驱动的变革。 因此，张立文表示，通过结合大模型的泛化能力和小模型的专业性，金融机构能够提供更精准、更个性化的服务，但同时也需要在创新和监管之间找到合适的平衡点。返回搜狐，查看更多 责任编辑：