中信证券上市公司交流会:谈谈生成式AI如何赋能金融变革###
近日,中信证券成功举办“人工智能与科技制造”论坛暨上市公司交流会,活动现场百融云创研发负责人发表演讲,分享生成式AI如何赋能金融业变革。
随着ChatGPT 横空出世,生成式AI突然成为了全球热点话题。对于信息化程度较高、数字系统较为完备的金融业来说,生成式AI所展现出的吸引力无疑更是巨大的。很多机构开展了积极探索,从最初的狂热到后来的冷静,人们的心情跌宕起伏,业务与技术的融合要比想象中要曲折。生成式AI要怎样才能在金融领域,更好地实现商用落地呢?
01
从idea到商业化落地要闯几关
该负责人认为,在金融领域生成式AI从一个idea到商业化落地要闯好几关,“第一,需要有大量的数据和巨大的算力支撑;第二,需要有强大的AI开发应用平台,加快AI从验证到投产过程,使项目周期从‘年’缩短到‘月’或‘周’;第三、要保证隐私性和安全性;第四,AI生成的回答要足够精准;第五,整个生成流程要足够透明化。”
针对这一系列产业化问题,百融云创打造了一个AI中台,这个中台集数据集管理、模型的训练、模型的版本部署优化、以及上层的AI应用开发和托管平台为一体,将算力、数据、模型进行统一化、标准化管理,降低业务线接入AI的门槛。
AI中台具备精准、安全、透明可追溯几大优势,直指生成式AI产业化落地的核心问题。
精准
由于行业属性使然,金融产业对于隐私性、数据安全有极高的要求,模型生成的回答也必须十分精准。比如有用户来投保,保险企业利用生成式AI作为客服,一旦在回答用户问题时产生错误,就会对理赔造成很多麻烦。
为了减少幻觉,提高准确率。百融云创AI中台通过RAG技术外接外部数据库,大幅提升模型的表达能力和预测性能,精准性也得到大幅改善。
安全
隐私和数据安全是金融机构的生命线。百融云创的AI中台打造了安全防护机制,搭建了一个安全防护的中间层。
“我们从用户问题输入和模型输出两个端点入手,进行检测和过滤,把一些不合适的提问和回答过滤掉,就像是在入口和出口设置安检系统,最大程度保证问答的安全。”该负责人表示。
同时,百融云创针对模型本身,也做了安全的评估框架。“我们做了大量的测试,检测模型本身可能存在哪些安全风险,实现对模型全生命周期的监控和管理。”该负责人表示。
透明、可追溯
一直以来,产业界很难完全信任AI的一个重要原因,就是它的“黑盒”模式,人们无法窥视神经网络内部的运作方式。金融产业事关人民财产安全,无法承受不可预测的不确定性。
从不可信任塑造可信任,需要整个作业流程做到透明化和可追溯。百融云创AI中台从三个维度来解决这一问题。
首先是知识库的构建。知识库可能来自金融机构内部结构化或非结构化的数据,AI中台通过模型去阅读、学习和理解这些文档数据,并进行嵌入、分块,从而构建知识库。当用户提问时,AI平台会结合RAG技术把与问题相关的知识检索出来,并提供给大模型,利用其语义理解能力,结合上下文最终生成问题的答案。
“这有一个案例,一个金融机构的客服,回答用户某个问题的时候,我们可以在内部清楚看到,这个问题的答案来自哪个数据库,充分保证透明性和可追溯性。” 该负责人表示。
其次,百融云创也会利用混合专家模型,将生成式AI跟很多传统的金融模型去结合,比如估值模型、评级模型、预测模型等,就好像汽车的智能驾驶和人工驾驶共同发挥作用,两者的结合将大大提升生成式AI的可靠性。
第三个层面,AI中台对所有应用的生成全栈可追溯、问题可复原。“假设我们在线上某个地方产生了一个问题,我们可以通过AIOPS分析出问题产生的原因、调用的模型,可以追溯bug产生的原因,然后进行问题的分析和优化。我们可以做到,30分钟内将问题复原。”
02
积极拥抱 ,逐步渗透
面对生成式AI这样的新技术,既要避免“短期高估”,也要避免“长期低估”。如果“短期高估”,容易导致一哄而上、盲目跟风;如果“长期低估”,一旦产生颠覆效应,就会错失发展机会。 该负责人建议认为:“对待生成式AI,金融机构可以采取积极拥抱,逐步渗透的态度。”
目前,百融云创采取内外联动,协同推进的策略,加速生成式AI的商业化落地。对内,AI中台用来降本增效;对外,则是扩大供给,创造增量。
对内,百融云创基于AI中台打造了AI员工、AI助手、BR-Coder等工具实现协同办公。该负责人表示,“我们把这些AI工具给到工程师、分析师使用,他们只需要给出一段自然语言的描述,AI工具就能自动生成代码,产生数据分析报表。目前,公司大概有10%的开发工作自动生成。”
对外,AI中台能有效扩大供给,创造增量。市场上,有些需求本身就存在,只是产品的供给不足,导致有些需求无法被有效激活。该负责人表示,“基于AI中台我们打造了对话大模型VoiceGPT,为财富、信贷、保险等场景提供服务,帮助客户完成营销运营、理财顾问、客户问答等工作。”
他在现场举了一个例子。在很多银行,用户资产要达到一定数字,可能是50万,才能享受到人工理财顾问服务。实际上,大量的客户没有这么多的资产,但他也需要理财顾问的服务,而很多银行就是因为无法满足这些客群的需求,导致潜在客户的流失。 VoiceGPT则有效填补了这一供给缺口,VoiceGPT每天可以进行3, 000万次的交流,为很多金融机构创造了资产运营的增量收入。不仅是线上,面对线下场景,百融云创还打造了精通多国语言的数字人产品。在购物商场、 营业厅、银行网点或者机场,数字人能胜任客服、讲解、推广等工作,创造增量收入。
该负责人指出,我们要客观看待生成式AI能力的边界,不要陷入思维误区。产业落地是一个系统性工程,生成式AI不可能端到端全部都搞定,实际上它只能胜任一部分工作。而且,也不是非要出现一个颠覆级应用,才标志生成式AI的成功。
产业界应该保持客观和科学的态度,找准定位、制定目标,评估好自身资源,数据情况、人才情况、IT资源,实现技术、应用、合规、监管的全面融合,逐步推动AI落地。技术革命并非总是疾风暴雨声势浩大,有时需要在时间的淬炼中,慢慢显露其威力。