lida

11月20日，2024年世界互联网大会乌镇峰会在浙江省桐乡市乌镇开幕，主题为“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”。会议期间，由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办的AI大模型攻防赛圆满落下帷幕，该赛事联合了清华大学、上海交通大学、浙江大学等高校及多家产学研组织共同发起，直面并解决大模型应用中潜藏风险，助力全球AI产业健康可持续发展。 大赛吸引了来自全球18个国家和地区的3200余名技术精英参与，参赛者来自清华大学、北京大学、交通大学、南洋理工大学等290多所国内外高校，以及字节跳动、理想汽车、腾讯、合合信息等上百家科技企业。凭借领先的AI视觉安全技术，合合信息从全球超千支参赛团队中脱颖而出，获得“AI核身－金融场景凭证篡改检测”（简称“AI核身”）赛道冠军。 合合信息获全球AI大模型攻防挑战赛“AI核身-金融场景凭证篡改检测”赛道冠军。 近年来，以大模型及AIGC为代表的技术飞跃，给人们的生活带来了便利，也产生了前所未有的安全挑战。在金融、生活等领域，“眼见不为实、耳听不为实”的场景频频发生，伪造身份材料是常见的欺诈手段，给机构及个人造成了重大财产损失。 在“AI核身”赛道中，主办方以金融领域进件审核为背景，考验参赛队伍实现大模型生成内容的防伪检测的能力。金融领域进件审核业务涵盖了信用成长、用户开户、商家入驻等多个场景，用户在办理这些业务时，需提交一定的材料（即凭证）用于证明个人身份、资产收入等信息，其真实性是困扰金融场景自动化审核的一大难题。如何通过创新技术手段提高金融凭证篡改检测精度，是赛道关注的重点。 为解决金融凭证篡改“检测难”的问题，赛道提供了大规模的、贴合实际业务场景的凭证篡改数据集，作为大赛“考卷”。据合合信息技术人员介绍，图像篡改手段“花样”繁多，即便是一张小小的购物票据，也可分为复制粘贴、拼接、擦除、AIGC生成等多种造假形式。受多种伪造方法叠加、新伪造工具涌现等因素影响，篡改图像特征分布复杂，目前的图像篡改检测技术面临泛化性和鲁棒性不足的困境，解决真实业务场景的图像伪造鉴别问题是一项艰巨的挑战。 本次比赛中，合合信息基于自主研发的图像篡改检测系统，针对百万级金融场景的凭证材料，提取图像多模态信息；系统结合低维视觉特征和高阶语义异常进行综合分析，在保持极低误检率的同时，精准识别伪造区域，有效解决了不法分子利用PS、AIGC等工具制作的高度逼真凭证样本中伪造区域难以检测的技术难题。 合合信息篡改检测技术在伪造视觉图像鉴别上有着丰富的实战经验。此前，合合信息推出了图像篡改检测技术，不仅支持检测身份证、护照在内的多种卡证，营业执照，商场小票等各类票据，还能够对截图场景、PDF扫描文件进行审核，适用于金融、保险等多个场景下的文档篡改检测。 合合信息图像篡改检测技术对常见证照篡改痕迹进行定位。 此次大赛中众多队伍“各显神通”，再次证明了AI产业的健康发展离不开学界和产业界的共同努力。据悉，在图像内容安全领域，由中国图象图形学学会、中国信息通信研究院、合合信息等公司和多所高校联合编制、中国互联网协会发布的《文本图像篡改检测系统技术要求》团体标准于今年9月正式发布，为企业在开发篡改检测技术时提供明确指导，建立行业联合防范机制。返回搜狐，查看更多 责任编辑：

文 / 四川新网银行反欺诈专家 王萍 随着人工智能尤其是生成式AI技术的迅猛发展，金融行业的服务模式、业务流程和风险控制正经历着前所未有的深刻变革。然而，新技术的应用也为不法分子提供了可乘之机，并给金融机构带来了新的安全威胁，AI新型诈骗便是其中之一。这类诈骗行为利用AI强大的学习和自适应能力，模拟正常用户行为，规避传统的安全防护措施，不仅威胁着消费者的财产安全，也给金融安全带来了挑战。因此，如何利用AI技术对抗AI新型诈骗，是当前金融行业面临的重要课题。 AI新型诈骗揭秘： 骗术精湛，类型繁多 AI新型诈骗是指不法分子利用机器学习、自然语言处理、多媒体技术及生成式人工智能等AI技术，通过生成虚假信息、模仿真实用户行为、绕过安全验证机制或自动执行诈骗脚本等手段，以非法牟取利益为目的，精心策划实施的诈骗活动。 1.AI新型诈骗的特点。此类诈骗具有以下显著特点。 智能化：AI技术的运用使得诈骗行为变得高度智能化。诈骗者借助自动化工具和脚本，精准模拟真实人类的行为模式，制造逼真的欺诈场景，令受害者难以辨识真伪。更甚者，AI模型具备自我学习和进化的能力，能够动态调整诈骗策略，以适应不断变化的环境，导致传统的反欺诈手段难以有效应对。智能算法的加持，使得诈骗过程更加快速。 隐匿性：AI技术能够生成以假乱真的图片、视频和音频等虚假信息和内容，不法分子利用这些伪造的内容冒充身份、篡改信息、制造虚假场景，从而隐藏其真实身份和行踪轨迹，极大地增加了追踪和打击的难度。此外，诈骗者还善于利用社交媒体、即时通讯工具等互联网通讯手段，借助网络互动信息为掩护，隐蔽地进行欺诈活动。 精准性：诈骗者利用AI技术，通过收集和分析目标客户的海量数据，能够准确识别个体的心理弱点、消费习惯和行为偏好等敏感信息，从而制定更具针对性的诈骗“剧本”，提高诈骗成功率。这种精准化的诈骗模式，使得诈骗行为更具迷惑性和诱惑力，容易让受害者深陷其中。 复杂性：AI新型诈骗手法多样、不断迭代演变，涵盖了从社会工程、身份盗窃、账户接管到假冒客服、虚假贷款等各类欺诈形式，具有很强的灵活性和适应性。不同的诈骗手段往往交织在一起，同时，诈骗者还利用复杂的网络结构、多层次的加密技术以及跨平台、跨领域的协同作战，构建了庞大而复杂的欺诈链条，进一步增加了识别、防范和打击的难度。 2.AI新型诈骗主要类型。2023年10月，国家金融监督管理总局发布《关于警惕利用AI新型技术实施诈骗的风险提示》，旨在提醒广大金融消费者警惕新型诈骗手段，维护个人及家庭财产安全。金融机构直接面临的AI新型诈骗主要类型如下。 换脸攻击：指诈骗者利用“换脸”技术合成虚假图像或视频，以冒充他人身份进行欺诈活动。在金融业务流程中，诈骗者一般使用“换脸”等AI技术制作受害者的虚假影像或视频，企图绕过金融机构的活体检测，非法盗取受害者账户资金，或伪冒受害者身份进行贷款申请，图谋骗取金融机构的贷款。 拟声诈骗：指诈骗者利用语音合成技术模拟他人的声音，实施电话或语音消息诈骗。在金融业务场景中，诈骗者可能利用“拟声”等AI技术模拟客户声音，试图通过金融机构的贷款电话审批或交易侦测审批流程。 伪造材料：指诈骗者利用人工智能技术生成虚假的文件、信息或其他材料，用以欺骗、诱导或误导受害者。在金融业务流程中，诈骗者伪造虚假的房产证、银行流水、个税证明、经营合同等资信材料，企图通过金融机构的贷款审批流程，以骗取金融机构的高额贷款；或伪造公安机关、法院、医院、社区、公司等单位印章，制造虚假的立案书、判决书、重症证明、失业证明等材料，以达到征信修复、逃废债务等非法目的。 发布虚假链接：指诈骗者利用AI技术生成虚假信息，用于进行网络钓鱼等诈骗活动。在金融业务中，不法分子通常利用AI技术伪造金融机构短信、网站、应用程序界面或邮件等，诱导受害者点击恶意链接或下载附件，从而泄露个人信息或进行转账汇款等操作，给受害者带来重大财产损失。 智能防线： AI驱动的金融反欺诈解决方案实践 面对AI新型诈骗的严峻挑战，新网银行积极探索AI驱动的金融反欺诈新思路，构建了“以攻为守”的多层次、多维度反欺诈防御体系，涵盖系统支撑、情报监控、多因素认证、智慧识别、智能升级及协同联动等多个核心环节，以期有效应对并预防各类新型欺诈行为，为金融机构和客户的资金安全提供坚实保障。 1.构建全面自动化的反欺诈系统闭环。工欲善其事，必先利其器。为确保反欺诈工作的高效性和精准性，新网银行建立了覆盖事前、事中、事后全业务流程的自动化反欺诈系统体系。该体系由情报信息、特征工厂、模型系统、决策引擎、名单管理、监控预警、案件调查等多个系统模块组成，共同构建一个闭环的反欺诈网络。这些系统模块之间紧密衔接、功能互补，形成高效协同、有机耦合的反诈合力。在面对AI新型诈骗时，该系统体系能够自动反应、精准识别并拦截潜在风险，为银行筑起一道坚固的反诈防线。 2.健全情报监控体系。情报监控预警是构建金融反欺诈体系的首要环节，其关键在于及时感知最新的AI技术、新型的欺诈手法以及潜在的欺诈风险。新网银行通过构建全面的情报监控体系，实时获取和处理社交媒体、论坛、贴吧等网络信息及黑灰产信息，并由专门的情报分析人员对收集到的各类信息进行深度挖掘和分析，及时发现并预警可能存在的新型欺诈手法，为智慧识别提供有力支持，更让金融机构先敌一步，掌握主动。 3.强化业务流程多因素认证机制。业务流程反欺诈是金融反欺诈体系的重要环节，其关键在于通过页面交互实时对抗欺诈行为。例如，在身份验证环节引入指纹识别、面部识别、声音识别等生物识别技术，并结合密码、手机验证码等传统安全措施，构建多层次、立体化的多因素认证体系，增加欺诈者冒用身份的难度，提高身份验证的准确性和安全性。此外，对于高风险的交易行为，还可通过5G视频通话技术进一步核验用户身份，防止欺诈者利用虚假身份进行欺诈活动。 4.提高智慧识别欺诈行为的水平。智慧识别是反欺诈体系的核心环节，其关键在于利用AI技术对欺诈行为进行精准识别。金融机构可以利用机器学习、模式识别、深度学习等算法对历史数据进行训练，构建能够精准识别各种欺诈模式的智能模型。同时，通过异常检测等无监督学习技术，可以挖掘出偏离正常行为模式的异常交易，及时捕捉新型欺诈手段。此外，图像识别技术也被用于活体检测，以识别如2D照片、3D面具或换脸攻击等欺诈行为。最后，通过构建知识图谱，可以将多源异构离散数据及错综复杂的关联关系提炼为对客户风险的深度洞察，从而提升对团伙欺诈风险的识别与防范能力。 5.提升反欺诈体系智能升级的速度。智能升级是反欺诈体系持续发力的重要保障，其关键在于不断更新和优化反欺诈技术和策略。首先，技术研发是推动反欺诈技术不断进步的关键，金融机构应加大在技术研发方面的投入，不断探索新的反欺诈技术和方法。其次，完备的欺诈风险管理评价和监督体系是智能升级的重要组成部分，通过建立和完善评价体系标准和流程，不断优化反欺诈体系的性能和准确性。最后，模拟攻击演练是检验反欺诈体系有效性的重要手段，金融机构可以组织定期或不定期模拟攻击演练，模拟各种欺诈场景和攻击方式，检验反欺诈体系的响应能力和效果，及时发现问题并进行改进。 6.多方联动形成合力，构筑金融行业反诈防护网。在公安部刑事侦查局的有力支持下，新网银行携手银联数据牵头发起金融反诈云联盟，旨在组建金融反诈云平台，通过金融机构间欺诈信息安全共享的方式，构建蓝名单信息价值分享网络，并接入国家反诈中心全国易感人群库，实现电信网络诈骗、不良代理投诉、有组织逃废债、不法贷款中介等新亚型犯罪行为的事前实时拦截、事中自动化预警以及事后联合司法打击。截至日前，金融反诈云平台已提供上千万次反诈服务。 此外，针对不同的欺诈手法和欺诈场景，新网银行还定制化不同的防护武器。 7.征信修复虚假材料自动识别工具。不良代理组织或个人为了达成“征信修复、洗白”等目的，通过伪造材料等手段向金融机构或有关单位进行投诉。为了应对此类黑灰产行为，新网银行基于图像识别技术、Word2vec、Cosine等算法构建征信修复识别工具，自动检测客户提供的材料是否虚假。目前，已成功识别多起征信修复黑灰产团伙案件，识别准确率高达80%以上。 8.伪冒链接自动处置工具。近年来，冒用银行名义诈骗套路高发。不法分子通过AI机器人自动发布虚假网页、虚假微博等方式，伪冒金融机构客服电话或还款账号，骗取客户信任最终骗取客户钱财。为了应对此类黑灰产行为，新网银行通过爬虫技术自动检测伪冒网页，并通过RPA实现处理，处理率高达99%以上。 基于以上反欺诈体系，新网银行欺诈风险防控良好，保持行业领先水平。2023年，未发生重大欺诈风险损失事件，伪盗类欺诈资损为0元；成功拦截贷款电信网络诈骗案件上千起，拦截电诈资金超7000万元，电诈案件拦截率超过90%。此外，新网银行已推动全国公安机关受理或者立案黑灰产团伙案件几十起，仅2023年新网银行就协助各地公安机关受立案十余起，协助公安机关抓获犯罪嫌疑人上百人。 AI与AI的对决： 金融机构面临挑战与展望 尽管AI技术在金融反欺诈领域展现出巨大潜力，但金融机构也面临着一系列的挑战。一方面，AI技术的更新迭代速度极快，新型欺诈手法和策略层出不穷，迫使金融机构必须迅速响应，不断优化和升级反欺诈系统，以应对新的欺诈手段。另一方面，AI技术的应用需要大量的数据和算力支持，也对数据治理和数据安全提出了更高要求。金融机构必须坚守客户隐私保护的底线，确保技术的合规使用，建立健全的数据治理体系和数据安全体系，确保数据的准确性、完整性和可用性。 在这场AI与AI的对决中，金融机构必须保持要高度的警觉性和创新精神。金融机构不仅要持续投入于AI技术的研发，还需加强与同业机构、科技公司、学术界以及政府部门的协同合作，积极探索和应用最新的AI技术，以构建更加坚固、智能和高效的反欺诈防御体系，共同应对AI新型诈骗带来的挑战。只有这样，才能在享受AI技术带来的便利的同时，确保金融业务的安全与稳定，推动金融行业的健康、可持续发展。 （此文刊发于《金融电子化》2024年9月下半月刊）返回搜狐，查看更多 责任编辑：

2023年，全球金融机构的生成式人工智能科技平均使用率为26%。中国香港38%的全球最高数字背后，如何兼顾发展与监管？ 文｜《财经》特派香港记者 焦建 编辑｜苏琦 “我不确定。我相信内在美源于信心和举止，感觉良好自然散发光芒。”大屏幕上一个名为Evelyn的女性形象AI智能人的婉转回答，引起观众广泛笑声。 向其提问自己造型如何的，则是中国香港特区政府财经事务及库务局（下称“财库局”）局长许正宇。这是10月28日上午在中国香港特区举办的金融科技周开幕时的一幕。 正是在这一场合，中国香港正式公布了《有关金融市场负责任地应用人工智能的政策宣言》（下称“《宣言》”）。香港金管局总裁余伟文亦预告了“未来数年将重点关注代币化和人工智能两大领域，2025年会公布‘金融科技2030策略’”。 作为由财库局与香港投资推广署主办的金融科技国际性会议，近年来当地金融业发展的一系列重要政策预告皆选择在此期间公布，如有关虚拟资产、家族办公室等内容。今年的《宣言》则既聚焦金融科技的发展，亦希望实现可持续。 从发展角度看，为保持竞争力并升级成为“全球金融科技中心”，近年来中国香港对在金融市场应用AI的态度相对开放包容，包括银行、证券、保险、会计、退休保障以及绿色和可持续金融业等行业，均在开始采用人工智能模型及其他基础架构。 全球金融软件公司Finastra近日一份相关调查报告显示：2023年，中国香港金融机构的生成式人工智能（Gen AI）使用率在众多金融市场中最高（38%），远高于全球平均水平（26%）。在此基础上，中国香港目前已有超过1100家金融科技和Web3.0（第三代互联网）公司，同比增长约15%。 相关数字持续增长背后，其实与此前一系列政策将发展与监管框架逐渐明晰有关。因此，今年受到关注的《宣言》则指出：在金融市场应用人工智能具有三大特性，包括数据导向、双面效果及充满活力。香港会采取双轨模式，以促进金融服务业采用及发展人工智能，并同时应对网络安全、数据私隐及知识产权保障等潜在的挑战。 所谓双轨模式，亦被称为“两条腿走路”方式，意指既要促进市场发展，也要妥善管理风险。许正宇则进一步明确指出，“在应用层面，希望不论金融机构规模大小，都能更多应用AI，以减低营运成本，提升效率。” 这涉及了当地金融业界正热议的“金融+科技”还是“科技+金融”话题。前者指传统业务采用新技术，后者则从技术出发，旨在解决金融行业痛点。但在现实当中，前者尚且不易，后者则往往过于聚焦于长尾市场的末端需求，因需求量低且推广性差，尚未出现突破性模式。 在中国香港金融语境中，大型金融机构采用金融科技的积极性较强。以银行业为例，AI应用于日常业务正变得日益普遍。例如，汇丰香港区行政总裁林慧虹就在28日的相关场合中透露称：该行在十多年前已投放资源于机器学习及人工智能方面发展，目前在不同业务领域已有超过1000个使用人工智能的案例，例如侦测金融犯罪迹象等。 10月28日当地金融科技周上相关官员在向人工智能提问时的场景。焦建/摄 “欢迎政府发表有关在金融市场负责任地应用人工智能的政策宣言，通过双轨模式让金融机构能在管理相关风险的大前提下，推动AI的适当应用。未来会继续全力配合，在香港的数字经济愿景中，发挥金融科技的重要作用。”林慧虹对《财经》等媒体表示。 针对更多相对缺乏技术及资源的中小型金融机构，中国香港则希望通过引入通用模型加微调方式加以推动。对此，《宣言》中就明确指出：香港科技大学将会开放其研发的人工智能模型及运算资源予香港金融服务业使用。 该副校长（行政）、信息系统学讲座教授谭嘉因则透露称：由该校研究团队开发的该模型名为InvestLM，是本港首个专为金融界而设、应用于生成式AI的大语言模型，“相信有助于支持本地金融业，特别是中小型金融企业，利用该语言模型生成金融文本的强大能力”。 模型本地化之所以受关注，因其既涉及金融企业如何自主调整以适应自身需求，亦与金融监管特性相关。“香港是国际金融中心，很多监管要求和市场特性很本地化，我们需要在模型发展和使用过程中吸纳这些本地元素，并通过模型实现（不同功能）。”许正宇指出。 在此基础上，针对市场所关注的如何监管金融科技使用及架构等话题，他则提出，“虽然AI蕴藏庞大机遇，但不当使用也可以带来很大风险。”当地各大监管机构，包括与证券、银行和保险等相关的机构，都密切留意全球和本地的AI发展情况。例如香港证监会（证券及期货事务监察委员会）就会针对AI的使用公布相关的规定和要求。 从金融监管体系的现状角度看，人工智能带来的潜在风险已在各个金融监管机构发布的相关法规及/或指引中有所体现。为配合人工智能的最新发展及国际做法，包括可解释人工智能的出现，中国香港的金融监管机构还将持续检视及更新现行的相关法规及/或指引。 “从政策层面上，我们希望搭建一个大框架和主调，令（各个）监管机构在这个大框架和范围内发展，或针对各自行业的需要订立规条。”许正宇则透露称，“特区政府将与监管机构和行业持份者（相关者）合作，就人工智能的应用提出明确的监管框架，预计先在2024年底规管稳定币的产品层面，2025年则在发行人层面方面进行监管。” 责编｜王祎返回搜狐，查看更多 责任编辑：