大模型搅动了金融圈……
大模型的横空出世，给各行各业都带来了震撼式的变化。就业环境是不是要变天了？模型开发是不是要天翻地覆了？作为数字化建设的排头兵，金融行业以其海量的数据源、标准化的信息基础建设以及领先的科技能力一直独占鳌头，这一次大模型的出世，是否意味着金融行业也将率先试水，积极落地？答案是肯定的。 麦肯锡的研究报告显示，应用生成式AI大模型每年为企业端带来的经济价值为2.6万亿-4.4万亿美元。其中，全球银行业使用大模型可使其每年营业收入提高2.8%—4.7%，这一比例高于全球制造业、零售业、旅游业、运输业和物流业等所有其他行业。这一数字足以见得大模型在金融行业有着无穷的发展潜力。 然而，虽然数据足够诱人，但是到了落地应用这一实践环节，层出不穷的难题还是让各大金融机构措手不及。有观点认为，大模型的问世或将加剧行业“马太效应”催化加剧前后差距。 也有分析给出了截然相反的观点，认为大模型的存在更是为头部金融机构“弯道超车”带来了前所未有的机遇和可能性，而小机构的大模型机遇却尚未可知。无论如何，属于金融业的大模型时代已经到来！ 大模型在金融圈快速落地生根 要想看看大模型在金融圈究竟有多大的影响力，首先我们来看两组数据。第一组：据智研瞻统计显示，2019年中国金融大模型行业市场规模250.49亿元，2024年Q1中国金融大模型行业市场规模90.82亿元，同比增长7.10%。第二组：据智研瞻预测，2024—2030年中国金融大模型行业市场规模增长率在6.36%—7.10%，2030年中国金融大模型行业市场规模534.97亿元，同比增长6.94%。 规模的攀升是一个明显指征，不得不说大模型已经一夜之间在金融圈遍地开花。那么大模型到底如何在金融圈大展拳脚？以下我们就通过一些实际应用案例来体会一下，大模型给金融圈带来的变化。 先说一个银行的典型场景人工坐席。在传统银行中，远程银行的运营团队往往拥有大量的人工座席，而这些人工座席往往又要面对超负荷的质检工作量，提效困难。大模型的出现，则重新定义了这个群体的作业和生产模式。 联想集团基于大模型的能力赋能全流程业务场景，让人工座席增效显著。在事前运营阶段，通过辅助知识维护，自动生成问答式对话、相似问答等方法，可以迅速提升知识运营的效率。在事中运营阶段，通过诉求了解、问题解答、工单记录，可以分别实现诉求摘要、工单自动填写等功能，充分辅助了全流程，有效降低了座席通话时长。在事后管理阶段，借助大模型还可以实现对客服水平的精细化质检以及对工单的智能质检，充分起到了辅助业务运营全流程的作用。 再说一个质检的场景。传统小模型，在智能质检的进程中，往往都有一些先天的局限性，比如质检项单一，无法匹配全渠道服务；准确率低，难以应对复杂流程和逻辑；漏检风险大，人力难以将自然语言的表达方式全面扩写，导致漏检；投入大、周期长，传统小模型智能质检需要人工对业务规则进行全面梳理配置，耗时耗力。容联云大模型产品负责人唐兴才认为，导致这些的原因第一是由于质检机器人没有准确理解对话内容；第二是无法对全量会话进行全局统计和深入解读，比如结合上下文后判断。 针对这些问题，容联云将大小模型结合，创新打造大模型质检代理（容犀Quality Management Agent），对全量会话进行“大模型语义质检+小模型规则质检”，真正实现效果与性能双重保障，并结合多年的证券knowhow，推出“证券行业-大模型质检代理解决方案”。该大模型质检代理（QM Agent）熟练掌握证券专业术语，深入对网开单向见证人工回访、常规存量客户智能外呼回访等业务场景，对服务记录进行全量智能质检，助力券商保障业务流程的合规性与高效性，提升服务质量，优化客户体验。 在落地应用中，容联云与某券商的合作，对接券商智能外呼系统、回访管理系统等业务系统、构建客户服务智能质检系统，对工作规范、服务意识及风险把控进行全面质检，实现质检准确率大于94%、漏判率小于3.5%。 下面再让我们来看一个金融智能营销的应用案例。枫清科技（Fabarta）在与龙盈智达合作打造了基于图智能和大模型的金融营销平台。通过图算法和图数据库以及大模型的应用，可以有效地发现潜在客户之间的复杂关系和网络，从而提供智能化的风险评估报告，帮助银行更好地了解风险，减少不良贷款率，提高资产质量。利用图分析平台，提供用户友好的图数据可视化工具，帮助更好地理解客户信息以及风险情况，展示其实控人、集团关系、交易链路等信息以及潜在风险，提供直观的决策支持，并通过大模型智能生成风险分析报告。同时，注重合规性和数据隐私，帮助银行提升营销目标用户的挖掘以及风险识别，从而实现更好的业绩表现与可持续盈利。 除了以上应用，金融大模型还在智能投顾、保险、个人信贷、用户行为分析等众多金融领域有广泛的应用。比如，智能投顾领域，Wealthfront和Betterment平台，使用大模型来分析市场数据和用户行为，根据用户的风险偏好、投资目标和市场情况，自动调整投资组合，以达到最优的资产配置；在保险行业，Lemonade保险公司利用大模型进行风险评估和理赔处理，通过分析用户的在线行为和社交媒体数据，提供个性化的保险产品，并在理赔时使用人工智能技术来快速识别和处理合法的索赔请求，大大缩短了理赔时间等等。 这些案例充分展示了大模型如何在金融领域实现创新，提高服务效率，降低成本，并为用户带来更加个性化和高质量的金融体验。随着技术的不断进步，我们可以预见大模型将在金融领域扮演越来越重要的角色。 大模型于金融业而言是挑战更是机遇 怎么来准确定义金融大模型是个非常好的问题。既不是通用大模型的拿来主义，也非通用大模型+金融场景的生硬加法。金融大模型更像是一场对金融行业的系统化重塑，重塑的范围包括但不限于基础设施、模型算法、业务流程、场景应用等等。 据2024年金融业生成式人工智能应用报告显示，生成式AI正在席卷金融业，释放新的生产力，赋能银行数字化转型，以前所未有的方式重塑全球金融业的格局。有望给金融业带来3万亿规模的增量商业价值，并可能彻底改变交易的进行、投资的管理和风险的评估方式。 然而，大模型能成为金融业的救命解药吗？大模型的出现，是否就意味着金融业可以摇身一变，加速直冲智能化巅峰？显然，在光鲜亮丽的背后，大模型在金融业的发展也并未如预期中的一路坦途，伴随着各种各样的瓶颈挑战，大模型在金融业的摸索试探也从未停止。 大模型本质是一个海量参数的深度学习算法，受制于模型黑箱、计算复杂度高、可解释性不足、推理结果不可预知等先天因素，大模型在金融业想要有更深入的发展要克服的障碍还有很多。 首先，金融大模型要解决的就是“黑箱”问题。金融大模型因其复杂的模型结构以及海量的参数，使得模型的决策过程不透明，难以解释。然而，在金融领域，模型的可解释性却恰恰尤为重要，因为监管机构和用户都需要理解模型是如何做出决策的。提高模型的可解释性，可以帮助建立用户信任，同时满足监管和审计的双重要求。那么，有没有方法解决？ 在面对“黑箱”难题时，枫清科技（Fabarta） 给出了“一体两翼”的解法。如何理解“一体两翼”？简单来说，就是为了帮助企业降低模型幻觉、可解释性差，提升推理能力而设计的产品矩阵。在引擎层，以 Data-Centric AI 为核心理念构建的多模态智能引擎。支持图、向量、表格、时序、JSON 等多种数据模态的融合与处理，将传统数据库的“存储&计算”架构演进为“记忆&推理”架构，可以为 AI 智能应用提供私有记忆和可解释的精确推理;。在数据翼，通过智能化方式，通过元数据智能补齐、统一语义层等实现，做到AI落地的数据就绪；在智能翼，通过知识引擎和智能体引擎，助力企业场景落地。通过“一体两翼”的产品矩阵，有效帮助企业减少幻觉、提升推理能力和可解释性，并提供数据安全与数据时效性。为了让用户真正能够信任大模型并且使用好大模型产品，可以通过几个方面来消除用户的顾虑。 针对幻觉问题，可以通过这几种方式进行缓解：可以利用外挂知识库方式限定回答范围，杜绝大模型“胡说八道”；也可以将确定的知识构建图谱，利用图谱结合大模型进行问题回答，通过确定性知识减少大模型回答的幻觉问题。 针对可解释性，一方面可以进行知识溯源，在进行文本内容生成时，针对生成的内容用户可直观地看到回答来源，同时可以通过点击角标直接跳转到对应文档中的具体段落，做到回答可追溯；同时可以将大模型思考过程展示给用户，做到过程可解释。 枫清科技（Fabarta）为企业提供基于知识引擎与大模型双轮驱动的智能体应用支撑平台，通过统一语义层，可以将企业的多模态数据转化为大模型可理解的知识，存储在图和向量融合的多模态智能引擎中，结合Hybrid RAG 能力，借助平台的可扩展能力（包括解析器自定义注册、大模型和向量算法自定义注册和使用、智能体工具以及自定义扩展等），在生成式人工智能落地企业场景过程中，可以帮助企业有效地解决可解释性差、推理能力弱的问题，减少大模型幻觉，提升企业对于时效性数据的使用，加速企业级大模型场景落地。 其次，如何在模型复杂度与操作便捷性之间寻找到合适的平衡点是金融领域一个复杂而关键的挑战。随着模型复杂度的增加，其性能可能会提高，但同时也可能导致操作难度增加，影响用户体验。如何无法找到二者之间的合理平衡，那么不但金融大模型的优势无法发挥触达，还会进一步影响用户体验以及最终决策。那么如何破圈？容联云在这个问题下分四个维度，给予我们一个全新的思维链路。 第一，通过优化模型性能，提升大模型的精确度和泛化能力以及部分场景结合小模型的高性能的优势。这一步有几个关键点，尤为重要。 模型压缩与量化。模型压缩，剪枝去除不重要的连接或参数，降低模型复杂度和存储需求，同时对性能影响较小；知识蒸馏将复杂模型的知识提取到较小的模型中，保持较高准确性的同时减小模型规模，便于部署和应用，适合对计算资源有限的金融场景。 算法优化。缓存重用：在推理过程中，重复利用已经计算过的中间结果，避免重复计算，提高效率；模型融合：将多个相关的小模型融合为一个大模型，减少模型切换和数据传输的开销。 降低模型计算成本。轻量化模型设计：采用模型剪枝、量化等技术，减少模型参数和计算量，提高推理速度。比如容联云赤兔大模型提供了多种参数版本的选择，可以在不同场景下使用；会话洞察、话术挖掘、质检等离线场景，可以很好地平衡算力消耗与效果的优势。分布式计算：利用高性能计算集群和分布式训练技术，加速模型训练过程。比如实时辅助、智能知识库、智能问答等场景，后端结合了上面提到的缓存、分布式计算等能力，可以最大程度地优化算力使用与用户体验。 第二，用户操作便捷性产品设计。首先是简化操作流程。设计简洁明了的用户界面，减少用户操作步骤和复杂度；通过智能助手或聊天机器人，为用户提供操作指引和帮助。其次是提供个性化服务。利用大模型分析用户行为和偏好，构建精准的用户画像，提供个性化的金融产品和服务；根据用户画像和实时市场情况，为用户提供定制化的投资建议、风险评估等服务。 第三，数据质量的不稳定性。金融数据的准确性直接影响大模型的预测能力。金融大模型依赖于高质量的数据来进行风险评估和预测。数据质量的不稳定、数据的不完整性、时效性不足或偏差都可能导致模型无法准确捕捉风险因素，从而影响决策的准确性。同时，数据质量还直接关系到模型训练的效果。不稳定的数据可能导致模型过度拟合或欠拟合，影响模型的泛化能力。要想从根本上解决数据质量的问题，金融机构还需要通过建立和完善数据治理框架，确保数据的准确性、完整性和一致性，并投入更多的资源来确保数据的清洗、验证和更新，以维持模型的准确性和可靠性。 第四，老生常谈的数据隐私与安全问题。数据隐私和安全是大模型应用中的核心问题。金融数据通常包含敏感信息，如个人身份、财务状况等。大模型在处理这些数据时，必须遵守数据保护法规，在数据收集、存储和处理过程中，确保用户的隐私权益得到保护，并采取严格的安全措施来防止数据泄露。 大模型的金融之路在脚下还是在远方？...
