妙手仁心携手AI,打破沟通障碍,倾听来自‘无声’世界的声音
AI医师助手

妙手仁心携手AI,打破沟通障碍,倾听来自‘无声’世界的声音

《妙手仁心》是上海广播电视台的一档创新节目,它结合“润爱无声”的人工智能手语项目和都市乐聆运营中心,通过直接表达和密集信息点的手语翻译,为听障观众提供定制版服务。节目中还引入AI手语主播"妙妙"进行情景教学,帮助普通人理解和沟通。节目注重无障碍文化传播,并计划在未来节目中融入AI技术,以优化制作模式并扩大覆盖面。
当法律遇到AI,会碰撞出怎样的火花?
AI律师助手

当法律遇到AI,会碰撞出怎样的火花?

5月28日下午 庆祝建校119周年相辉校庆 系列学术报告在相辉堂举行 围绕“AI4Law:人工智能法学 前沿探索”的主题 五位学者分别作报告 探讨人工智能的蓬勃发展 为法律等社会科学学科 所带来的前沿问题 复旦大学法学院院长、 教授杜宇致开幕辞 院长助理、副教授班天可主持报告会 AI如何重新定义社会科学研究范式? “在数据驱动的浪潮中,AI技术正在重新定义社会科学研究的范式。” 欧洲科学院院士、复旦大学社会智能研究中心首席科学家、哥廷根大学中德社会计算研究所所长傅晓明从人工智能与社会科学的交互出发,为听众展现了AI对社会科学研究巨大的驱动作用。“通过整合社会科学理论、大数据分析和机器学习模型,形成一个高效、深入的研究新范式,这是我们努力的目标。” 数据、理论和模型,组成了社会科学领域不可或缺的“三角形”。数据在信息时代无处不在,它不仅可以用来验证已有理论,还可以揭示新的社会现象和趋势。而人工智能在社会科学领域一个重要作用,就是对数据进行处理、分析和应用。“比如,通过文本分析工具,可以分析出公共事件中社会的舆论动向。”而理论与数据也在无时无刻进行着“对话”,如社会网络理论就是基于数据,分析个体如何通过复杂的网络关系影响彼此的行为和决策。最后,选择何种模型去处理社会科学问题,则涉及数据和模型的融合。 “在理论、模型与数据之间建立良性的交互关联,利用AI技术进行大规模和多维度的定量分析,形成一个互补和强化的研究环境,相比过去依赖定性分析和小样本定量研究的方法,有极大的优越性。”傅晓明用一个例子呈现了这个三角良性循环的应用价值。“利用AI建立人脉圈分类模型,可以对邓巴圈理论进行中国本土化阐释,经过三轮修正后可以得出结论:中国一线城市十八岁到二十八岁年轻人分人脉为四圈——家人、亲密熟人、熟人与生人(或弱连带非陌生人)。” 最后,傅晓明表示,未来我们在利用AI探索理论、模型与数据良性对话的同时,也要考虑AI4SS的应用伦理问题,评估社会影响,确保问责性和透明度。 AI如何应用到金融业? AI的出现与大量应用,曾经让金融业“焕然一新”。复旦大学法学院教授、复旦大学智慧法治实验室主任许多奇从AI在全球和我国金融业的运用发展历史讲起,展现了金融科技的运用使得金融业走向电子化、信息化、智能化的历程。 “金融业运用AI有两大路径:一是AI辅助决策,二是AI辅助执行。未来,量子金融或许会成为金融业利用AI的新方向,利用量子计算和量子信息理论解决金融领域中的复杂问题。”她指出。 “但AI会‘反客为主’、操纵金融业,带来不可预测的风险。”许多奇举例,2010年美国股市的“闪电崩盘”便是一场AI引发的“灾难”。除此之外,AI还会通过高频交易“统治”资本市场,滥用速度与信息优势诱发系统性金融风险;AI投资顾问收集信息过于集中,存在信息泄露隐患;AI贷款审核也容易滋生数据歧视与算法歧视。 她强调,基于AI这把“双刃剑”给金融业带来的机遇与挑战,应当防微杜渐、用法治防范金融风险。“在法律制度改进层面,可以征收金融交易税等系统性风险税;在内部控制升级上,应当实施强有力的算法监督与信息保护。”目前我国已出台相关法规,对金融行业的AI应用进行监管,如《关于规范金融机构资产管理业务的指导意见》规定了金融机构的算法披露与信息保护义务。 最后,许多奇介绍了复旦大学智慧法治实验室负责的“知识图谱+大语言模型”项目。该项目通过建立金融法律大模型,挖掘算法、构建法律共享知识库和知识服务系统,可以有效预防金融行业运用AI的技术风险,强化司法部门处理金融类案件效能。 AI如何助力化解纠纷? “机器能够取代法官吗?”复旦大学法学院教授唐应茂用这一略带科幻的问题,引出了有关“AI和纠纷解决”的讨论。 他介绍,根据自己最近的一项研究发现,AI让调解员变得更“懒”,但调解效果并没有改变。为何AI对于纠纷解决的裨益体现在效率,而不是质量呢? 2023年底,他带领课题组到南京一家调解机构调研,开展了一项有关“小贷公司发放网上小额消费贷款,借款人逾期不还纠纷”的研究。课题组与该调解机构合作,将10万余件历史案件中的当事人性别、年龄、逾期利息、欠款金额等变量输入AI模型,训练AI模型预测调解案件的结果。在此基础上,课题组采用现场实验方法,针对该调解机构2024年1月份新受理的案件,将所有案件按概率随机分配到实验组和对照组两个研究组别中。在实验组,调解员能够接收到AI预测的调解成功可能性信息,作为其调解案件的辅助信息;在对照组中,调解员则没有AI预测的辅助。最终实验结果显示,AI提高了调解员的效率、降低了调解沟通时长,但没有提高调解成功率或还款率。也就是说,AI的运用没有带来调解员能力的提升,但它让调解员少花了时间。 为了分析其背后的机理,课题组收集了同一调解机构2023年11月调解结案的21099件案件,并用AI模拟预测这些案件的调解成功率。课题组发现,如果调解员根据AI预测,舍弃低调解可能的案件,将时间放在容易调解的案件上,调解效能可以提高65%以上。换句话说,与没有AI预测辅助的情况下调解员逐一调解全部案件相比,调解员放弃一半的AI预测的低调解可能案件,将精力放在剩余一半的高调解可能案件中,两者的调解结果没有差别。 唐应茂总结道,AI没有替代调解员,但是,它可以有效助力调解员进行资源分配,提高调解效能,未来在辅助调解谈判、生成调解文书和跟进调解履行等领域,AI还有更加广阔的应用空间。 AI如何辅助司法裁判? 当下司法部门面临的一个的大问题,就是“案多人少”。复旦大学法学院院长助理、副教授班天可开门见山,点出当下审判实践的痛点。正因此,类案推送、争点归纳、证据校验、文书智能生成等任务的“AI化”愈发从理论走向了实践。班天可以上海“206系统”“法信2.0智推系统”等为例,介绍如今AI算法应用于司法领域智能辅助办案系统的整体框架。 随后,班天可进一步分析法律人工智能的三种推理路径。第一种规则推理路径。其立足于“法律三段论”,使用逻辑编程语言,如果案件事实符合法律规范对应的要件事实,就可以输出这一规范的后果,给出最终裁决。其过程精确可控,但前期的法律知识图谱建构会非常复杂。“只能先从简单场景入手,稳步推进。”班天可指出。 第二种是事实推理路径。其使用归纳推理、概率推理、深度学习等方法,依赖案例库建设以及对案例数据的机器学习。大家熟悉的英美法“找找过去怎么判”的逻辑就是如此,“这也导致其不可解释的问题”,班天可总结道。 第三种混合推理路径。它综合了前两种路径,能够同时完成法律推理和事实认定,可以用于复杂的民商事案件。班天可认为,以要件事实论为理论基础,采用贴合实践审判方法的混合推理路径构建系统,是一条有效的道路。在实践中,其体现为“全链条要素式审判”,将类型化案件中的信息化为“是或非”的要素,以及“规则或例外”的请求抗辩体系。“这样打造的系统能够满足实践的需求。既有利于审判质效管理,也有利于年轻法官培养。”班天可对此充满信心。 人类与AI何以“共创”? 复旦大学法学院副教授丁文杰从我国《著作权法》及其实施条例出发,首先解读了“创作”的概念:“‘创作’是产生‘独创性表达’的过程,对‘独创性表达’做出贡献的‘人类’,才是作者”。然而,如今ChatGPT等生成式人工智能的出现,给以“人类创作”为基石构建的著作权制度带来了巨大的冲击和挑战。一方面,AI生产作品(AIGC)的外观与人类作品几无差异;另一方面,AIGC中人类的贡献程度也显著下降。 面对这一挑战,学术界主要的观点是“工具论”,也即将AI完全当作人类创作的辅助工具。“但是这种‘工具论’存在一个最大的问题,那就是忽视了著作权法最本质的规范逻辑。”丁文杰指出。他认为,当ChatGPT等生成式人工智能对生成内容的“独创性表达”做出主要贡献、而人类仅对其思想或者惯常性表达做出贡献的时候,“工具论”的扩张解释就会遇到困境。例如,老师指导学生进行论文写作,论文的著作权人是学生;但是学生利用prompt指导ChatGPT写论文,学生是否属于著作权人呢?这就引出了“共创”的问题。 丁文杰用三个案例进一步阐释。在2019年的“腾讯诉盈讯案”中,人类对AIGC的“独创性表达”做出贡献,此时由于“独创性表达”属于人类,所以应当认为人类是著作权人。而在2023年北京互联网法院裁判的“AI文生图案”中,上述关系正好反转,人工智能才是对“独创性表达”做出贡献的主体。于是作品被认为是机器创作物,进而进入公共领域。而在2018年的“菲林诉百度案”中,原告用威科先行AI生成“独创性表达”内容之后,自己又加入了“独创性表达”,从而可以认定涉案文章的可版权性。“人机协作范式将会成为人类创作的常态化实践。”丁文杰最后总结道。 报告会后还进行了圆桌论坛和舞台剧表演。由复旦大学法学院学生自编自演的话剧《审判未来》,畅想了AI主导司法审判后的世界,进一步激发观众思考AI对于法律带来的深远影响。 组稿|校融媒体中心 文字|刘栩含、俞哲灏 摄影|法学院 责编|章佩林 编辑|马铭泽
AI + 金融:10家头部人工智能厂商金融产品盘点
AI金融助手

AI + 金融:10家头部人工智能厂商金融产品盘点

来源|零壹智库作者|金融APP评测中心国务院《新一代人工智能发展规划》指出,到2025年中国人工智能核心产业规模超过4000亿元,带动相关产业规模超过5万亿元。目前人工智能赋能行业众多,尤其在金融行业应用最为广泛,几乎覆盖所有金融业务场景。新基建浪潮下,金融智能化势必迎来更大的发展机遇。为金融行业提供人工智能服务的公司,既有包括BAT在内的头部互联网公司,也有像商汤、云从、同花顺等在各自擅长领域表现出色的独角兽公司。一些头部人工智能厂商备受资本青睐,科大讯飞、同花顺等已在A股上市,依图、旷视等已获得多轮投资。此外招商银行、浦发银行、华夏基金等多家传统金融机构也都推出了各自的智能投顾产品。零壹财经对商汤科技、旷视科技、云从科技、依图科技、巨量引擎、TalkingData、索信达、科大讯飞等10家头部人工智能厂商,以及摩羯智投、AI投等8款人工智能金融产品进行了整理分析,供业界参考。一、人工智能在金融行业的应用人工智能作为“新基建”的核心板块之一,产业链包括基础支撑层、技术应用层和方案集成层。在金融行业方面,目前人工智能可以应用在包括身份识别、智能风控、智能投顾、智能客服等在内的几乎所有的金融业务场景中。表 1:金融行业人工智能相关标准数据来源:公开信息、零壹智库整理而目前,金融领域人工智能相关标准体系仍在建设探索中,尚无法完整覆盖人工智能产业生态的各个环节,补齐相关标准规范并提升监管力度,能够改善市场秩序混乱和低质量应用丛生的不良现象。二、10家头部人工智能厂商、8款人工智能金融产品汇总作为综合的人工智能服务厂商,BAT在金融行业的人工智能产品包括智能营销、智能风控、智能语音、智能识别等,应用场景覆盖几乎所有金融场景。在身份识别、智能营销等细分场景又有哪些人工智能厂商和人工智能金融产品呢?零壹财经对商汤科技、旷视科技、云从科技、依图科技、巨量引擎、TalkingData、索信达、科大讯飞等10家头部人工智能厂商以及摩羯智投、AI投等8款人工智能金融产品进行了整理分析,供业界参考。1、身份识别厂商:AI识别“四小龙“获知名投资机构多轮融资智能身份识别(即生物识别技术)目前主要使用指纹和人脸识别技术,已经大规模使用。其他生物特征还包括DNA,掌纹,虹膜,视网膜,气味,键盘敲击,步态,声音……身份识别从三个角度赋能金融:反金融欺诈、拓展服务半径优化服务体验、增加线下场景数据维度。云从、依图、旷视、商汤,并称为AI识别领域的“四小龙”。在人工智能的技术应用中,身份识别是中国AI市场的最大组成部分,也是最具商业化价值的赛道,四家公司分别获得了众多知名投资机构的多轮投资。商汤科技经过8轮融资,目前估值为75亿美元,主要股东包括软银、保利资本、中银等。旷视估值40亿美元,阿里巴巴、中银、工银资管等。云从科技目前估值250亿人民币,主要股东包括中国互联网投资基金、长三角产业创新基金等。依图科技目前估值为150亿人民币,主要股东包括工银国际、浦银国际、高成资本、高瓴资本等。表2:4家智能身份识别厂商数据来源:公开信息,零壹智库整理另一方面人脸数据是“活体数据”,一旦被泄露、非法提供或者滥用,不仅会侵犯用户的个人隐私甚至可能被不法分子用于诈骗等犯罪活动。如何保障用户个人信息安全,是身份识别技术应用与推广无法绕开的话题。2、智能营销厂商:字节系、软银系纷纷入局智能营销主要通过人工智能等新技术的使用,对于收集的客户交易、消费、网络浏览等行为数据利用深度学习相关算法进行模型构建,帮助金融机构与渠道、人员、产品、客户等环节相联通,从而可以覆盖更多的用户群体,为消费者提供千人千面、个性化与精准化的营销服务。目前服务金融行业的头部智能营销厂商有:字节跳动所属的巨量引擎、软银投资的TalkingData、港股上市企业索信达等。巨量引擎主要服务的金融客户有光大银行、国美金融、51信用卡等。TalkingData金融客户有陆金所、微众银行等。索信达为港股上市公司,金融客户有中国银行、建设银行、招商银行等。表3:3家智能营销厂商数据来源:公开信息,零壹智库整理3、智能客服厂商:科大讯飞、同花顺A股上市,云知声、依图分别获得多轮融资智能客服的本质是客服,在多渠道采用语义理解、语音识别和语音合成等人工智能技术来替代人工客服进行与客户的服务交互。智能客服具有多渠道、智能性和标准化的特性。对于金融行业而言,智能客服赋能传统客服使用户及时得到满意的答复,提升自身服务质量和用户的满意度,更可以减少人工服务,降低企业的运营成本,同时还能收集和分析问题,为智能营销提供相应的大数据分析。目前服务金融行业的头部智能客服厂商有,科大讯飞、云知声、同花顺、依图科技等,其中科大讯飞、同花顺为A股上市企业,云知声、依图可以分别获得D轮及战略投资。表4:4家智能客服厂商数据来源:公开信息,零壹智库整理4、智能风控厂商:天云大数据、邦盛科技获得多轮融资运用大数据和人工智能,可以在线上构建贯穿反欺诈与客户识别认证、授权审批和定价分析、贷后管理与逾期催收的全流程风控模式,除大数据外,智能风控的还包括机器学习算法构建模型等。目前与金融机构建立紧密合作的智能风控厂商有慧安金科、天云大数据、邦盛科技等。表5:3家智能风控厂商数据来源:公开信息、零壹智库整理5、智能投顾产品:银行、基金、券商等传统持牌金融机构智能投顾产品丰富运用人工智能算法,根据风险偏好,财务状况,收益目标等,结合投资组合理论,为客户提供资产配置的建议,而且持续跟踪并动态调整。智能投顾产品有三类,一是智能投顾服务初创公司,二是互联网公司,三是传统金融机构。前两类公司适用相对简单、标准化的投资产品,满足客户同质化的理财需求;传统金融机构适用“线上+线下”的智能投顾产品,充分利用网点优势,目前银行、券商、基金、信托都推出了各自的智能投顾产品。目前较为成熟的智能投顾产品有银行系的摩羯智投、财智机器人、AI投等,基金系的查理智投、嘉贝智投、智投宝。证券系的贝塔牛,信托系的伽利略等。表6:8款智能投顾产品数据来源:公开信息、零壹智库整理三、总结基于10家头部人工智能厂商、8款人工智能金融产品我们发现:1、传统持牌金融机构与人工智能厂商在身份识别、智能客服、智能营销、智能风控等业务场景均有广泛合作。2、头部人工智能厂商获资本青睐,科大讯飞、同花顺等已在A股上市,商汤旷视等已获得多轮投资。3、银行、基金、证券等传统金融机构智能投顾产品较为丰富。若您有人工智能案例推荐需求,请联系作者,微信:daodao0312End.
糖尿病患者别忽视这致命隐患!全国’爱眼日’变身眼底检查大行动?眼科医生现场把关,你做好定期检查了吗
AI医师助手

糖尿病患者别忽视这致命隐患!全国’爱眼日’变身眼底检查大行动?眼科医生现场把关,你做好定期检查了吗

昨天上海徐汇区举办全国"爱眼日"主题活动,围绕"关注普遍的眼健康"主题,通过AI眼底拍照、现场咨询和志愿服务等,重点宣传糖尿病相关眼病防控及全年龄段眼健康的重要性。活动得到眼科专家和社区卫生服务中心的支持,AI眼底检查服务引起糖尿病患者的关注,帮助他们提高定期检查意识,防盲护眼。此外,还普及了爱眼护眼知识和反诈、助残服务,旨在提升公众对眼健康的认知和科学用眼习惯。
如何利用AI科技破解健康难题?轻松问医Dr.GPT带你探索医疗新纪元!
AI医师助手

如何利用AI科技破解健康难题?轻松问医Dr.GPT带你探索医疗新纪元!

随着人工智能技术的突飞猛进,轻松集团凭借自主研发的"轻松问医Dr.GPT"医疗健康大模型,在2024年峰会上展示了其在AI领域的应用成果。这个模型通过AI辅助医生提供更精准的医疗建议,并覆盖全场景服务,展现了科技在解决健康问题上的关键作用。作为健康科技企业代表,轻松集团不仅通过技术创新提高了服务质量,还利用大数据和区块链技术建立了大健康生态系统,致力于通过科技向善推动行业变革。其最新的人工智能应用,如"智能问诊系统"和个性化健康管理等,正逐步破解医疗资源不均等问题,有望提升全民健康水平。
GPT-3:万亿参数巨兽,开启AI商业化新纪元?
AI律师助手

GPT-3:万亿参数巨兽,开启AI商业化新纪元?

GPT-3是微软Azure加持的1750亿参数巨型NLP模型,它在文本生成能力上无所不能,但数据量大、训练成本高昂。尽管面临各种评价,OpenAI发布API旨在推动商业化。相较于GPT-2,GPT-3通过增大规模验证了深度神经网络能变得更聪明,主要优势是减少对标注数据和领域分布的依赖,目标是用较少领域数据直接解决特定问题。研究者们进行了零、一、少量-shot测试,展示了其无需微调的强大潜力。
打开厨房门,让做饭变得更快乐!A.O.史密斯AI-LiNK带你走进健康家庭日
AI医师助手

打开厨房门,让做饭变得更快乐!A.O.史密斯AI-LiNK带你走进健康家庭日

国际家庭日来临,联合国倡导关注家庭福祉。健康厨房是提升家庭幸福感的核心,它不仅是烹饪空间,更是家人情感交流的温馨场所。A.O.史密斯AI-LiNK智慧厨电通过解决油烟、净水、蒸烤等难题,打造了全面互联、安全健康的厨房环境,让做饭变成快乐,实现家居与健康的双重提升。在这样的厨房里,我们可以享受到烹饪的乐趣,更保障家人的健康与和谐,为幸福家庭增添温度。
6家银行发布大模型,金融垂类大模型将迎来爆发式增长?
AI金融助手

6家银行发布大模型,金融垂类大模型将迎来爆发式增长?

1月24日,由清华大学经济管理学院、度小满、《麻省理工科技评论》中国、清华大学经济管理学院动态竞争与创新战略研究中心联合编写的《2024年金融业生成式人工智能应用报告》正式发布。 该报告研究关注了国内外170余家银行、保险、资管等金融机构,系统性揭示了金融业生成式AI的创新能力、商业价值和政策期望,为国内金融机构应用生成式AI技术提供了指引。 《报告》认为,生成式AI重新定义客户体验,正在形成新服务。生成式AI可以充当有价值的助手,提出实时响应建议并满足客户多样需求。 例如,应用生成式AI的聊天机器人能够在对话中理解上下文语境的复杂性,可能消除传统语音机器人不准确的响应缺陷,从而增强客户的参与度和信任度。 数字开物了解到,金融行业大模型应用相对比较广泛。金融行业沉淀了海量数据,例如金融交易数据、客户信息、市场分析、风控数据等,其中包含大量非结构化数据(如客户的证件扫描等)。 这既占用了大量的存储资源,又无法将数据标准化进行分析利用,造成了极大的资源浪费,还存在大量复杂数据处理任务。这催生了金融业对大模型这种能高效、准确处理数据的技术的强烈需求。 金融业同时又是科技驱动型行业,其中介属性天然对新技术特别敏感,应用落地效率极高。 许多新技术如区块链技术、云计算、大数据等,都率先在金融行业应用落地,并为金融行业创造了巨大的价值,也深刻改变着金融业。 大模型在模型性能及能力上的跨越式提升,更好的满足了众多金融场景,如智能投顾、 智能投研、智能风控、智能交互等,对人工智能技术的需求,加快了金融行业的技术升级进程。 例如,2023年5月,星环科技推出第一款面向金融量化领域的生成式大语言模型“无涯Infinity”,度小满开源国内首个千亿参数金融大模型“轩辕”;6月,恒生电子发布金融行业大模型LightGPT,将于9月底开放试用接口。马上消费研发了全国首个零售金融领域“天镜”大模型。 此外,包括蚂蚁金服、马上消费、海通证券等金融机构,及九章云极、第四范式等科技企业均有金融大模型的行业布局或者案例。 生成式AI还可以通过与RPA(机器人流程自动化)等其他技术协同创新,带来新制造。例如,大模型可以分析来自各种来源的大量文本数据,为优化供应链管理提供可操作的建议;通过分析客户反馈、市场趋势和竞争对手数据来加强产品开发。 同时,我国银行业正在积极拥抱大模型。财报信息显示,已经有6家上市银行公开发布大模型技术开发与应用的信息。 工商银行在国内同业率先实现百亿级基础大模型在知识运营助手、金融市场投研助手等多个场景应用;农业银行发布的ChatABC重点着眼于大模型在金融领域的知识理解能力、内容生成能力以及安全问答能力;平安银行探索自研BankGPT平台,研究构建大模型在个性化营销内容创作、交互式数据分析、非结构化数据洞察等场景中的应用落地。 “2023年是基础大模型智能涌现的一年,2024年生成式AI将从模型层走向应用层。开拓落地应用场景,不断提高客户采用率和大模型的利用率,更好发挥大模型的潜在价值,将会是2024年生成式AI突破发展的重要内容。”清华大学经济管理学院副院长李纪珍表示。 | 文章来源:数字开物 • END•  【专栏】精品在读(点击进入) 行业大模型是伪命题吗?大模型是制造业数字化的必然选择吗?大模型与行业相结合,为数字产业化带来哪些想象空间?深度|中国工业大模型正面临哪些挑战?重磅|国家数据局首个数据要素文件正式发布!3年半,76万台机器人走了50多个国家地区速腾聚创港股IPO,ADAS激光雷达并非最大收入来源
大模型观察|从训练到落地金融业,大模型如何“打怪升级”?
AI金融助手

大模型观察|从训练到落地金融业,大模型如何“打怪升级”?

点击蓝字 ╱ 关注我们 BBT FINTECH 迎着技术风口,2024年将是AI大模型应用的浪潮年。业界认为,大模型将对金融业产生长远的、深刻的影响。1月28日,针对大模型在各业务场景的应用成效、对大模型算力的开发和提升,多机构向北京商报记者透露了自研大模型的最新进展。 与此同时,一些问题近期在业界引发热议:大模型在训练过程中,哪些壁垒亟需突破?训练一个更专业的金融业垂直大模型与普通大模型相比有何不同?想要加速大模型在金融领域的落地,又有哪些难点与挑战?针对这些问题,多家在大模型中有不少探索经验的金融机构向北京商报记者给出了相似的答案。 01大模型业务端应用最新披露 在过去的2023年,百灵、轩辕、天镜等多款大模型如雨后春笋般涌现。到如今,不同大模型助力对应业务开展已取得显著成效。北京商报记者注意到,大模型在客服与电销方面的应用尤其广泛。 2023年5月,度小满开源了国内首个千亿级金融大模型“轩辕”,并获得了上百家金融机构申请试用。目前,大模型技术已经应用在度小满各个业务场景,从营销、客服、风控、办公再到研发,已经初见成效。在代码助手方面,用大模型辅助生成的代码,采纳率能够达到 42%,帮助公司整体研发效率提升了20%;在客服领域,大模型推动服务效率提升了25%。在智能办公领域,大模型目前的意图识别准确率已达到97%。 壹图网 奇富科技则透露,通过AIGC的强大赋能,在电销系统中,语义分析和线索挖掘帮助提升电销线索识别准确率高达98%,同时将转化率提高超过5%。在智能营销环节,大约70%的图片素材由AIGC生成,并计划通过大模型对素材进行标注和多维度评级,以实现广告投放的优化。在通话质检环节,大模型自动化质检实现了100%覆盖,将检出率提高了15%。在语音机器人话术生成场景,生成话术优质率已达70%。 具体到金融领域,数据显示,大模型在获客、放贷、催收方面发挥重要作用,还助力业务和企业经营的智能化决策。 北京商报记者了解到,2023年三季度,乐信持续加大对数据挖掘和模型建设的投入。引入更多数据源,构建以人民银行征信系统为核心的识别系统,完善了从获客、风险及运营整个生命周期的模型框架,模型的排序性和稳定性比此前有10%—20%的提升。对新客模型和策略进行重大升级,取得较为显著的成效,信息流获客效能比一季度提升38.5%。新客的通过率、交易用户数、促成借款额都比对照组有20%以上的提升;早期入催指标有近20%的下降。 乐信提出,其自研大模型LexinGPT目前已经在电销、客服、催收等主要业务流程中全面落地。以电销场景为例,应用AI大模型后,当日授信转化率相对外采技术提高70%、当日下单转化率提升10%;客服业务机器人场景下,机器人参与客服的比例和效率稳步提升,无需人工干预的机器人解决率达到91.5%。 大模型对金融业务的提质增效作用,许多机构都有亲身体验。1月24日,由清华大学经济管理学院、度小满、《麻省理工科技评论》中国、清华大学经济管理学院动态竞争与创新战略研究中心联合编写的《2024年金融业生成式人工智能应用报告》(以下简称《报告》)正式发布。《报告》提出,生成式AI正在席卷金融业,释放新的生产力,以前所未有的方式重塑全球金融业的格局,有望给金融业带来3万亿规模的增量商业价值,并可能将彻底改变交易的进行、投资的管理和风险的评估方式。 “短期看,大模型是数智化的延伸,为企业降低成本提升效率;长期看,大模型将演进为超级智能体,重构企业业务流程。”度小满CTO许冬亮表示。 02打破大模型训练“三堵墙” 要生产一个成熟好用的大模型,就如同发酵酒一样,需要经历重重步骤,且每一步环环相扣。在大模型领域,训练就是至关重要的一步,是一个把冰冷的数据、参数,变成有“思维”的工具关键一环。只有打好了技术的基础底座,才能让大模型拥有更成熟和精准的服务。 业界常说,大模型训练有“三堵墙”:算力、内存、通信。通俗来讲,完成一个千亿参数级别的大模型例如GPT-3,用一张卡训练一个模型要耗时32年,所以业界引入了分布式训练的方法。所谓“内存”墙,则说的是千亿级参数完全加载到显存大概需要几个TB,单显卡的显存已经无法加载千亿级参数。此外,大模型并行切分到集群后,模型切片间会产生大量通信,从软、硬件来说,这些问题都亟待解决。 为了突破这三堵墙,业界一直在努力。北京商报记者获悉,多家机构均有对大模型训练和算力的新进展。例如,蚂蚁集团宣布开源大模型分布式训练加速扩展库ATorch。ATorch可针对不同模型和硬件资源,实现深度学习自动资源动态优化和分布式训练稳定性提升,帮助提升深度学习的智能性。据了解,在大模型训练中,ATorch千亿模型千卡级别训练的算力利用率可达60%。 蚂蚁集团表示,随着生成式大模型的爆发,模型训练的数据集和参数规模成指数级增长,要带动如此庞然大物,并且满足模型的快速迭代,分布式训练就成为了解题之道。ATorch可以算是其中之一,它的优势在于可实现最少化用户代码侵入,为千亿参数大模型千卡级训练提供易用的高性能方案。 腾讯云则着眼于“内存墙”与“通信墙”的突破。在年初,腾讯云推出了面向大模型训练的“高性能计算集群HCC”,可以大幅提升集群训练效率。 “最新一代的GPU算力就像法拉利,想要充分发挥跑车的性能,道路和轮胎都要追求极致。把GPU算力用好用足,除了卡之外,还需要存储、网络做好配合。否则,其中短板会导致计算节点等待,拖垮集群效率。”腾讯云副总裁胡利明解释道。网络方面,腾讯自研的星脉网络把HCC集群内部服务器之间的羊肠小道变成了高速公路,让GPU计算节点互相通信畅通无阻。而腾讯云HCC的计算、网络、存储,形成毫无短板的“铁三角”,让大模型训练大幅提速。 奇富科技对北京商报记者表示,与普通大模型相比,奇富金融大模型在训练过程中的特殊之处在于“软硬结合”的金融科技探索与实践方向。“软”在于对金融业务层面的深入理解,“硬”则在于技术、数据、算力方面的积累。 值得注意的是,在对大模型的训练问题上,有一原则需要遵循——模型参数并非越大越好。一资深从业人士表示,模型参数规模越大,意味着神经网络的复杂度越高,学到的特征表达能力更强,拟合能力更好。但在实际应用中,大模型的利用效率并不高,过于庞大的模型可能难以在有限的计算设备上部署和训练,从而限制了其应用场景。大规模参数的模型在训练数据上表现优秀,但在新任务和未知数据上表现不佳,无法很好地泛化。 对此,胡利明指出,要立足场景和高质量数据,追求效率和成本的最优解。 03通用大模型不能完全胜任金融领域任务 通过大模型赋予的强大算力,生成式AI正加速定义形成新的客户服务、新的制造方式以及新的经济业态,成为数字经济时代的新质生产力。生成式AI重塑金融业,这已然成为了业界共识。 对大模型的训练,背后是技术的不断演进。那么,想要加速大模型在金融领域的落地,又有哪些难点与挑战?训练一个合格的金融大模型与普通大模型相比有何不同? 首先应明确的是,基于金融业的专业性与复杂性,通用大模型并不能完全胜任金融领域任务。金融领域产生的数据量庞大且多样化,包括交易数据、市场数据、客户数据等;涉及多个市场参与者、复杂的金融产品和交易机制以及受到多种因素的影响,如经济状况、政策调整等。这种复杂性导致金融领域往往面临较高的不确定性,难以准确预测和评估风险。通用大模型专业金融知识有所欠缺、能力不满足金融任务要求,同时,面临着训练和应用成本高的挑战。 “普通通用型大模型和金融行业垂直大模型在落地速度上有着明显差异,”乐信对北京商报记者表示,一个重要的原因在于预训练的参数大小差异。普通通用型大模型通常需要千亿参数、万亿参数去做预训练模型,相比较来说,金融行业垂直大模型的预训练参数则小很多。 业界由此提出,大模型在金融领域的应用呈现出三层金字塔结构:底层是通用的基础大模型底座,中间层是金融行业级大模型,顶层是各家金融机构的任务级大模型。呼唤具备更多专业知识的金融机构形成适配特定领域的专业化应用。 奇富科技进一步指出,对于现阶段的金融大模型来说,业界常提到的技术挑战固然重要,但更为核心的问题在于机器幻觉和合规风险。 机器幻觉是指大模型在学习海量数据后,可能会根据对前文内容的理解“编造”出一些“无中生有”的内容。在容错率较低的金融领域,这种幻觉会直接影响金融分析结果的可信度,尤其在与用户直接沟通时,可能会给用户体验带来负面影响。因此,需要努力提升大模型的稳定性和准确性,以确保其生成的金融分析内容真实可靠。 同时,合规风险也是训练金融大模型时必须面对的重要问题。金融机构和监管机构面临着合规和监管的复杂性、多变性、适时性,需要投入大量的人力和资源。为此,奇富科技的经验是,采取多重审核机制,包括在源头上进行合规把控、素材生成后的合规校验与效果评估,以及最后的人工审核。 “在我们看来,现阶段金融大模型就是一个效率工具,必须依托具体的业务场景才能释放能效。某种程度上来说,我们现在做的,就是要用大模型把过去大数据所做的事情再重新做一遍。”奇富科技强调,金融行业大模型的落地要从最外围的获客、运营开始做起,逐步提升运营效率。 展望未来,《2024年金融业生成式人工智能应用报告》中则提到,生成式AI技术在金融业中的应用尚处于技术探索和试点应用的并行期,预计1-2年内,首批大模型增强的金融机构会进入成熟应用期,3年后将会带动金融业生成式AI的规模化应用。“2024年生成式AI将从模型层走向应用层。开拓落地应用场景,不断提高客户采用率和大模型的利用率,更好发挥大模型的潜在价值,将会是2024年生成式AI突破发展的重要内容”,清华大学经济管理学院副院长李纪珍说道。 文 / 北京商报记者 岳品瑜 董晗萱往期精彩回顾 收单市场暗流涌动:支付机构忙整改,外包商忙推销套现 现金贷海外淘金记 蚂蚁腾讯百亿罚单背后,...