清华大学

7月12日下午，由北京国家金融科技认证中心和金融科技50人论坛（CFT50）联合打造的“负责任的人工智能大模型金融应用”闭门研讨会成功举办，邀请来自行业管理部门、金融机构、产业机构、科研院所等单位的领导专家共同讨论大模型金融应用前景，分享大模型金融应用案例和技术模式，探讨大模型时代下的伦理治理。本次研讨会包括嘉宾致辞、主题发言、实践分享等环节，由北京国家金融科技认证中心总经理张海燕全程主持。 会议现场 国家金融与发展实验室副主任杨涛在致辞中指出，生成式人工智能在国内快速迭代、快速应用时可能面临以下挑战：数据保障方面，国内虽然数据资源丰富但中文优质数据集仍然稀缺，金融业的数据基础虽然优于多数行业，但也存在非标准、碎片化、分割化的问题。算力保障方面，我国AI算力规模虽已居于全球前列，但算力质量仍有待提升，尤其是2022年7月美国众议院通过《芯片与科学法案》，又持续对AI领域的关键技术和硬件实施面向我国的出口管制，对于生成式AI大模型的算力“上限”冲击较大。产业政策保障方面，相关单位已发布《生成式人工智能服务管理暂行办法》，未来既要注意遵循国际共识，对其发展设置风险原则与底线，也要防止政策与规则过于超期而阻碍技术进步，同时避免对创新责任的泛化、技术路线的低效约束等，真正以政策“护航”来抓住新技术革命机遇。同时他表示，当人工智能大模型在金融领域应用时，更需关注大模型的可审计性、可解释性等难题，以及参与金融活动引发的风险特征变化、数据保护、责任分担、合规边界等问题，强化数据伦理、算法伦理、主体伦理、行为伦理等方面的治理。 国家金融与发展实验室副主任杨涛致辞 交叉信息核心技术研究院(清华大学设立)常务副院长林常乐在主题发言环节就“数字经济领域的核心技术”一题发表演讲。在谈到大模型应用存在的问题时，他表示大模型通常使用公开互联网信息进行训练，使用这些数据和知识会引发利益冲突，涉及数据知识产权的保护问题。同时，模型自身的风险还有数据安全也是关注的重点。目前，交叉信息核心技术研究院跟人民银行相关单位已经共建关于模型预测和管理的实验室，正积极开展模型评测和管理的相关研究。在谈到与金融行业结合时，他表示由于金融专业要求的精度很高，大模型与金融行业结合关键是怎样产出符合金融专业精度要求的结果。因此，他提出将大模型中的相关专业领域参数与专业模型相结合的技术路线，通过将专业模型的精度参数写入大模型中，实现专业领域模型跟大模型的衔接。在谈到大模型治理时，他表示在08年金融危机后，大家意识到模型和定价算法会对金融中的业务产生巨大影响，模型管理需要既有制度建设也需要技术支持。在负责任的大模型中，涉及不同国家的价值观标准，需要进行跨领域的研究，把它公理化，形成可以技术化的规则。 中国社科院哲学所科技哲学研究室主任段伟文在主题发言环节就“走向负责任和可问责的人工智能大模型伦理治理”发表演讲。他认为，生成式人工智能技术会对知识产权和知识生产方式产生重大影响，并可能带来数据隐私、安全、偏见、公平等方面的问题。他表示，对于人工智能大模型的治理应基于相称性原则，既根据其本身的风险确定治理力度，并在此过程中始终明确人工智能应用仅负责推算，而人负责结果判断。最后，围绕如何开展负责任和可问责的人工智能审计、如何透明的向消费者传达AI的伦理标准、如何迅速地感知和应对AI对技能和工作等带来的冲击三个焦点问题分享了意见建议。 北京国家金融科技认证中心资深专家温昱晖在主题发言环节就“人工智能大模型金融应用的挑战、责任和路径”发表演讲。他认为，大模型的百花齐放难免良莠不齐，这需要基于多元化的责任主体，遵循负责任人工智能的基本原则，采取适合行业特点的敏捷治理方式。基于此，北京国家金融科技认证中心提出负责任的人工智能大模型治理思路，探索研究大模型金融应用多元责任体系，采用循证治理及评价机制支持负责任大模型在金融业应用推广、通过建立名录向行业推荐负责任的大模型产品和服务。 工商银行金融科技研究院资深经理夏知渊围绕“人工智能大模型应用范式探索”一题，介绍了大模型在智能客服、智慧办公、数字员工、运营管理、低代码开发等方面的实践探索，提出了大模型在金融行业落地思考。他表示，大模型技术具备广泛的应用前景，但当前在可控性和精准度方面还有很多挑战，未来应选择风险相对可控的企业内部场景开展先行先试，在探索大模型应用的同时，进一步完善相关技术。 民生银行数据管理部总经理沈志勇围绕银行如何抢抓人工智能发展机遇和前景为主题进行分享。他表示，大语言模型（LLM）和生成式人工智能（AIGC）分别是类GPT模型的内在原理和外在应用。他指出，银行业部署大模型应用的架构路径，可考虑在LLM层以通用大模型为基座，通过引入银行相关知识构建增强并适用于企业内需求的大模型版本，支撑营销及业务管理、风险及合规管理、运营及效率管理等AIGC层典型的应用场景。最后，他强调人工智能大模型技术应用可能会涉及到知识产权、数据隐私、价值观等问题，需要强化使用主体的社会责任和道德规范，定期开展合规和伦理方面的审查。 光大信托科技部副总经理祝世虎围绕大模型在银行业的落地路径进行专题分享。他指出，首先大模型是生产力的提升，金融业必须要拥抱大模型。其次，大模型是个大生态，从头部AI公司的通用大模型，到金融AI公司的金融大模型，到金融机构的企业大模型，需要各司其职。再次，大模型应用和发展可能存在以下挑战：一是应用平民化伴随着建模贵族化；二是人工智能算法黑箱、算法歧视、算法稳定性问题依然存在；三是用户隐私、数据安全、知识版权等方面的合规问题；四是人与AI共存的边界问题、伦理问题将会越来越突出。最后，他表示大模型在银行业的落地需要“大合作、大创新、大共存”，即业内大算力的合作、行内大数据的整合、垂直领域内模型的精调，由浅入深、由外及内的开展应用创新，并处理好大模型与小模型的共存。 网商银行高级技术专家郭胜介绍了网商银行智能交互风控系统“百灵”的应用实践。他表示，通过感知、认知、交互、决策等技术，网商银行能够对小微商家资产、经营情况等信息进行全面识别和还原，为风控提供更加精准的决策支持。此外，网商银行在人工智能大模型研发和应用方面正在研究和探索，未来希望能够共建行业评测标准，为银行业大模型应用提供基准。 在实践分享环节，瑞莱智慧联合创始人刘荔园以“大模型时代下的人工智能安全和防御”为主题，围绕当前大模型在算法、数据、应用方面所存在的提示注入、隐私泄漏、伦理失范、偏见歧视、生物识别攻击等风险挑战，介绍了瑞莱智慧“查、打、防”三位一体的人工智能安全体系。360智能产品事业部高级总监周翔以“构建企业智脑打造数字员工”为主题，分享了基于360智脑大模型构建的企业办公助手和数字员工专家，介绍了360发起的GPT产业联盟，并希望未来将与更多合作伙伴携手加速行业大模型生产和场景落地，赋能金融数字化转型和智能化升级。华为技术有限公司金融计算解决方案部长黄志鹏结合行业实践分享了算力对大模型发展的意义，他表示大模型卓越的性能有赖于底层芯片、基础软硬件的支持，华为将致力于打造基于自主可控的技术底座和兼顾各行业标准的开源大模型，推动整个产业链百花齐放。 后续，国金认证将基于本次研讨会的交流成果，提出负责任大模型金融应用行动计划并公开征集参与单位，共同推动负责任的金融领域大模型应用落地。 联系人：温老师：18911018073李老师：13911093441