《人工智能聊天机器人与数据安全风险》

财联社4月19日讯（编辑 潇湘）年初以来，围绕ChatGPT等最新的人工智能聊天工具的投资热潮，可谓“一浪高过一浪”。不过随之产生的安全性、透明度和公平性等监管话题，也开始越来越受到人们的高度重视。虽然当前人工智能技术正掀起新一轮技术革命，但也引发了人们对潜在新型攻击和内容合规等安全风险的疑虑……

本周，以色列网络安全公司Team8在一份最新报告中就表示，使用ChatGPT等生成式人工智能工具的公司，可能会将客户信息和商业机密置于危险之中。

这份报告强调了广泛应用新型人工智能聊天机器人和协作工具有可能给企业带来的潜在威胁。其中,数据泄漏和法律规定遵守是两个主要的问题。随着这些技术的不断普及,许多人都开始担心黑客可能会利用人工智能聊天工具来获取企业的敏感信息或发起攻击。此外,目前投入聊天机器人中的机密信息可能会在未来被AI公司所利用,这也是一个值得关注的问题。

Team8是一家在全球网络安全领域具有广泛影响力的以色列公司，其创立于2014年，由前以色列国防军“8200部队”的精英成员创建。该公司致力于网络安全、数据分析以及人工智能等多个领域的研究与开发。如今，包括巴克莱、微软、沃尔玛和思科在内的多家国际知名企业都已成为Team8的合作方或投资者。

多类风险不容小觑

在当前的技术环境中，大型科技巨头如微软和谷歌的母公司Alphabet，正纷纷投入大量资源研发生成式AI技术，旨在提升聊天机器人和搜索引擎的性能。他们通过收集互联网上的数据来训练AI模型，力求为用户提供更加精准、便捷的一站式搜索服务。

对此，Team8在报告表示，如果企业使用机密或私密数据来投喂这些工具，今后将很难删除相关信息。

一篇来自团队8的文章指出，对于那些采用AI聊天工具的企业来说，它们可能会面临一系列风险。这些风险包括但不限于敏感信息的泄露、知识产权的侵犯、源代码的被盗、商业机密的泄露以及其他数据的滥用。这些风险的出现，可能是由于用户直接输入这些信息，或者是通过API等其他渠道实现的。

目前，团队8已将此风险评估为“高风险”。但他们同时也指出，通过采取合适的预防措施，此风险有潜力降低至“可控制”级别。

Team8在报告中还强调，目前对聊天机器人的查询尚不会被输入大型语言模型中来训练AI，这与最近关于这些信息有可能被他人看到的报道相悖。不过，该报告也指出，在训练未来版本的大语言模型时，未必不会采取这种实时接入的方式。

这份报告还突出了其他几个与整合生成式人工智能工具相关的高风险问题，同时强调了信息正越来越频繁地面临通过第三方应用程式共享的威胁。

当前，微软已经在它的必应搜索引擎以及Office 365工具中融入了人工智能聊天机器人的功能。据Team8的研究报告指出，当前用户端正在被第三方应用所利用，这些应用通过生成式人工智能的API来实现。如果这些应用遭受黑客攻击，那么用户的电子邮件和网络浏览器权限可能会受到影响。更糟糕的是，攻击者甚至可能伪装成用户进行恶意行为。

在本次报告中，我们深入探讨了AI聊天工具所面临的潜在风险。值得注意的是，这些技术在带来便利的同时，也可能产生一定的负面影响。例如，过度依赖AI聊天工具可能导致用户在沟通中失去自主性，同时可能加剧歧视现象。此外，AI聊天工具的错误回答可能会对企业造成声誉损失，甚至引发法律纠纷。因此，在推广和应用AI聊天工具的过程中，我们需要关注这些问题，并采取相应措施降低潜在风险。

多位权威人士为报告“背书”

根据媒体看到的信息，微软公司副总裁Ann Johnson参与起草了这份报告。微软已经向ChatGPT的开发者Open AI投资了数十亿美元。

微软发言人表示，“微软鼓励就安全和人工智能领域不断发展的网络风险进行透明讨论。”

此外，数十名美国公司的首席信息安全官也被列为这份报告的撰稿人。Team8的报告还得到了前美国国家安全局局长兼网络战司令部司令迈克尔·罗杰斯(Michael Rogers)的认可。

目前，ChatGPT聊天机器人的火爆已经引发了全球范围内监管呼声。不少国家的政府已担心，在人们试图利用这项技术提高效率时，这种创新也有可能会被用于不法行为。

美国联邦贸易委员会领导人周二就表示，ChatGPT等最新的人工智能工具可能导致诈骗行为激增，该机构将追究滥用人工智能技术来进行欺诈的公司。