文章主题：关键词：苹果，ChatGPT，生成式AI
在7月31日，我国苹果公司在中国区的App Store中对于ChatGPT产品进行了集中式的下架处理。苹果方面表示，之所以做出这样的决定，是因为相关产品需要获取运营许可证。
不仅仅是中国，立志争夺这个领域的美国和欧洲，也在鼓励创新的同时积极立法监管。
在 2021 年 4 月，欧盟委员会第一次推出了一项针对机器学习应用运营和治理的监管框架提议，其中包含了对于人工智能的监管措施。那时，人工智能领域最普遍的观点还能够回想起吴恩达那句著名的调侃：“如今担忧人工智能，就如同担忧火星上的人口过多。”虽然这种观点在当时听起来有些夸张，但是在今天，随着人工智能技术的不断发展和普及，我们确实需要更加关注其潜在的风险和挑战，并采取相应的监管措施以确保人工智能的健康发展。
但到了 2023 年，这样的观点再也无法成为主流：生成式 AI 仅用了不到 6 个月就向全世界展示了足以替代人类、完全改变现有世界的巨大潜力——正如二战中被研制出来的核武器一样。
电影《奥本海默》剧照
著名物理学家J-罗伯特-奥本海默是现代物理学史上的一位杰出人物，他参与领导了美国第一颗原子弹的研发工作。尽管二战已经结束，但是核弹作为一种具有巨大破坏力的武器仍然在很大程度上决定了世界的命运。然而，奥本海默以及他的团队专家们，对于“核扩散可能导致前所未有的军备竞赛”的预测和警告并未被美国政府所重视。他们的观点明确表示，如果任由这种军备竞赛继续下去，很可能会引发无法控制的后果。然而，美国政府并未采取任何措施来阻止或减缓这一趋势的发展。最终，美国和苏联之间的核军备竞赛演变成了以“超级核弹”氢弹研发为代表的竞争。这一竞争不仅加剧了国际紧张局势，还差点将整个世界文明推向毁灭的边缘。尤其是在古巴导弹危机期间，这场危机几乎让人类陷入了无法挽回的灾难。总的来说，奥本海默及其团队的警告和观点被忽视，导致了核军备竞赛的恶化和全球安全的威胁。这一事件再次提醒我们，科技的力量虽然强大，但如果运用不当，也可能带来无法承受的后果。
奥本海默曾经遇到的危机，与当下人类遇到的“AI 智械危机”有着许多相似之处：在人类使用 AI 将自身拖入更加巨大且不可控的未来之前，将其引导至更加安全的轨道中实行监管，或许是最好的办法。
而 2021 年欧盟的“未雨绸缪”，最终成为了人类历史上第一个针对人工智能行业的监管框架——也是如今欧盟《人工智能法案》（Artificial Intelligence Act， AI Act）的前身。
但法律制定者在设计这份法案之初根本没预料到 2022 年底生成式人工智能或是大模型的存在，因此生成式 AI 在 2023 年的爆发性崛起，这份法案中也随之添加了更多关于生成式 AI 的部分：包括其使用大模型的透明度，以及对用户数据搜集/使用的规范。
原内容为：目前，那份法案已在六月中旬获得欧洲议会的投票通过。接下来，将在欧盟的三大决策机构——议会、理事会和委员会之间展开谈判，最终确定法律文本。希望在年底之前，所有欧盟国家都能达成协议并正式实施该法案。
在中国这边，对于生成式 AI 的立法也在同时进行：7 月 13 日，《生成式人工智能服务管理暂行办法》（下文统称《暂行办法》）已经由网信办等七部委联合发布，将在八月正式施行。
这或许将成为首个最终落地的生成式人工智能管理法规，在过去这一轮“AI 立法赛跑”中，反而是中国的 AI 立法进程反超，成为了目前落地进展最快的生成式 AI 领域专项法规。
在英美等其他同处于 AI 发展第一梯队的国家，对于 AI 的监管立法也在同时进行：3 月 16 日，美国版权局发起一项倡议，研究人工智能技术引发的版权法和政策问题：包括使用人工智能工具生成的作品的版权范围，以及为机器学习目的使用受版权保护的材料。英国政府于 4 月 4 日发布了首个人工智能监管框架。此后美国国家电信信息管理局（NTIA）又发布了人工智能问责征求意见稿，就人工智能问责措施和政策向公众征求更广泛的反馈意见。
在今年三月的某一天，众多知名CEO和研究人员联合签署了一封公开信，提出了一个引人深思的问题：“我们是否应该努力开发一种能在数量和智慧上完全替代人类的非人类思维？”时至今日，当我们回顾这段历史时，我们会发现，在生成式AI的发展道路上，“所有人暂停研究六个月”的呼吁过于理想化，而当前现实情况是，各国纷纷推动制定与生成式AI相关的法律，以发挥其监管作用，这或许才是更为切实可行的选择。
创新与问责
在此之前，从未有人涉足过生成式AI的立法与治理这一全新领域。每一位立法者都面临着来自外界的质疑压力。今年5月，谷歌在I/O开发者大会上正式推出了其生成式AI对话机器人Bard，然而该服务的覆盖范围却仅限于美国市场。
这引发了许多欧洲AI研究人员和企业对于欧洲缺失的原因产生疑问。随后的Google多次强调其“期待向欧洲用户提供服务”的立场，这一表述被一些人理解为Google试图规避其生成式AI可能涉及的法律风险，从而在欧盟面临大量罚款的“避风港策略”。
到了七月，Google 最终披露了其中的原因：Bard 产品负责人 Jack Krawczyk 在一篇博客文章中写道：在研究之初就已经向爱尔兰数据保护委员会（DPC）提出在欧洲发布 Bard 的意图，但最终直到七月才满足监管机构所要求的信息提供。
如今，欧盟《人工智能法案》已经出炉，其中的每一条法律几乎都直指当下 AI 发展中显现或潜在的问题：虚假/错误信息的扩散、可能导致的教育/心理健康等重大问题。
但随之而来立法者发现，解决这一问题更加复杂的部分在于如何确定立法：既需要保护创新/避免巨头在 AI 领域垄断，又需要在一定程度上保证 AI 的可控。避免虚假内容泛滥。就成了中美欧生成式 AI 立法上共同的内核，只是在实际规范上各有侧重。
欧洲针对人工智能的一系列判例，已引起Google、OpenAI等科技巨头的反感和抵触。许多欧洲本土科技公司，甚至立法者，都担忧过于严格的法规会阻碍欧洲在AI领域重回世界领导地位的道路。然而，《人工智能法案》的正式通過，却為歐洲對AI违规公司的處罰提供了法律依據。根据这项 legislation，欧盟對违规公司的最高罚款額可达3000萬欧元，或相当于公司年收入的6%。對於那些想在歐洲發展生成式AI业务的巨头如谷歌和微软來說，這无疑是一份明确的警醒。
而在六月版本的《人工智能法案》中，欧盟立法者明确纳入了新的条款，鼓励负责任的人工智能创新，同时降低技术风险，对人工智能进行正确的监督，并将其置于最为重要的位置：在法案第 1 条就明确，支持对中小企业和初创企业的创新举措，包括建立“监管沙盒”等措施，减少中小企业和初创企业的合规负担。
但对于面向市场销售 AI 服务或部署系统之前，生成式 AI 则必须要满足一系列风险管理、对数据、透明度、文档等监管要求，同时在关键基础设施等敏感领域使用人工智能，都会被视为“高风险”，纳入监管范畴。
目前，基于《暂行办法》的 AI 规范已经有所动作：7 月 31 日，中国区 App Store 中大量提供 ChatGPT 服务的应用被苹果集中下架，并未提供直接 ChatGPT 访问、但同样主打 AI 功能的另一批 App 则暂时不受影响。
在面向开发者给出的回复中，苹果官方给出的审核建议是“生成式人工智能服务必须满足在中国运营的许可要求，包括从工信部获得许可证”，这一审核规范的变更也直接对应着《暂行办法》中的“面向公众提供服务”这一类别。
中国的《暂行办法》第十五条中，也明确提到针对生成风险内容的管理方式“提供者应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改”。这已经是在《征求意见稿》中提到的内容；但相比前一个版本，《暂行办法》中的描述更为温和，删除了“三个月内整改”等期限描述。
当前围绕生成式 AI 诞生的争议中，用于训练生成式 AI 大型语言模型的数据版权之争， 处于生成式 AI 发展第一梯队的厂商，都已经感受到受限于高质量内容匮乏带来的“隐形天花板”，但与此同时无数创作者与媒体已经开始就生成式 AI 引发的版权问题展开法律诉讼等行动。针对生成式 AI 发展过程中的内容版权保护条款制定已经迫在眉睫。
因此这也是美欧两地围绕生成式 AI 立法的重点：欧洲《人工智能法案》中明确要求大模型供应商声明是否使用受版权保护的材料来训练 AI，同时记录足够的日志信息供创作者寻求补偿；而美国版权局则是发布了新的审查，就生成式 AI 引发的广泛版权问题征集建议，寻求专门立法来解决。
而在目前的《暂行办法》中，目前删除了四月征求意见稿中的相关段落，让目前《暂行办法》中，关于数据来源的知识产权保护相关条款还处于一片空白、亟待完善的状态。
但对于生成式 AI 所依赖发展的大模型来说；在互联网中搜刮数据来加速大模型的迭代发展是其发展定律，一刀切式限制很可能导致对整个行业的重大打击，因此中欧现行法规中都提到了不同场景中的“豁免”：欧盟《人工智能法》中，包括了对开源开发者 AI 研究的豁免：在开放环境中合作和构建人工智能组件将受到特殊保护。同时《暂行办法》中，相关条款也明确了法例的豁免范围：
“只要企业、科研机构等，不是向公众公开提供生成式人工智能服务，则不适用本法”。
“知识产权领域的立法仍然需要更多的时间来进行研究与论证”，一位目前服务于大模型厂商的法律顾问对记者表示，“中文高质量数据集相比英文内容要更加稀缺，而生成式 AI 训练的特性就决定了即使是巨头也无法完全做到和每一家平台、每一位内容创作者独立签约使用，更不用说天价的授权使用费已经是对初创公司的巨大打击”。
“或许目前的这个问题，只能留给时间让行业发展来得到更好的实践解决”。这位顾问补充道，竞争与合作。虽然中美竞争中，AI 发展已经成为美国遏制中国发展的主战场之一，但就生成式 AI 立法领域，中美欧之间的合作也在逐渐成为主流。
现阶段，美国的人工智能公司都已经意识到了开发 AI 过程中伴随而来的风险。纷纷做出保证 AI“不作恶”的承诺：OpenAI 表示既定使命是“确保人工通用智能造福全人类”。DeepMind 的运营原则包括承诺“作为人工智能领域负责任的先锋”，同时 DeepMind 的创始人承诺不从事致命性人工智能的研究，而 Google 的人工智能研究原则也规定，Google 不会部署或设计用于伤害人类的武器、或违反国际规范的监控的人工智能。
在 7 月 26 日，Anthropic、谷歌、微软和 OpenAI 发起了名为前沿模型（Frontier Model Forum）的论坛，这是一个专注于确保安全、负责任地开发前沿人工智能模型的行业机构。
这个论坛将致力于在推动人工智能研究的同时，“与政策制定者、学术界、民间机构合作，最大限度降低风险，分享关于安全风险的知识”。同时主动融入现有国际多边合作：包括 G7、经合组织等组织关于生成式 AI 的政策制定。以促进各国在立法、监管理念等方向同步。
此前，《时代》杂志曾评论称，中国与美国在生成式 AI 的“重要参与者”地位，与欧洲经常在事实上成为新技术立法的“开拓者”之间，存在着许多合作的可能性，在立法阶段开始合作符合各方利益，同时也是促进生成式 AI 发展的重要手段之一。
在这也与麻省理工学院教授、生命未来研究所创始人 Max Tegmark 的观点契合：“中国在生成式 AI 的很多领域中都处于优势地位，将很有可能成为驾驭人工智能的领导者”。
中美两国大模型数量占据了全球 90%，因此中美与欧洲之间的立法协调，甚至将会决定全球生成式 AI 行业发展的走向。“在符合美国利益的前提下与中国进行立法协调”已经逐渐成为美国政界学界的共识。
WIRED 专题报道封面
比较有代表性的是对 AI 风险的分级措施：中国《暂行办法》中提到“对生成式人工智能服务实行包容审慎和分类分级监管”，但并未在目前的版本中详细阐述其中的分级规范，目前只写入了“制定相应的分类分级监管规则或者指引”等段落。
而欧洲的《人工智能法》同样提出了通过分级制度，来对应不同风险程度的 AI 开发者所需承担的义务，目前提出的 AI“威胁等级”共包括四类：
有限风险类 AI
高风险 AI
不可接受级风险
生成式 AI：类 ChatGPT 等产品
目前的版本中，《人工智能法》将生成式 AI 作为独立分类摘出应对，同时针对被分类为“高风险 AI”的产品严格限制，必要时通过人工监管等措施介入，从制度上规范降低 AI 出现风险的可能性。这也被认为是中美两国未来针对 AI 风险立法的“参考蓝本”。
此外，从实际立法进程中来看，主动邀请公众以及 AI 研究机构参与进立法过程中，都是各国监管机构在过去半年中通过经验形成的共识，“尊重 AI 发展规律的前提下制定法律”已是不容质疑的“影子条款”。
“生成式 AI 或许永远不会迎来完美的那一天，但法律注定会在 AI 发展的关键方向起到重大作用。”
正如同奥本海默即使反对核武器用于战争、但同时也从未后悔过在新墨西哥州将原子弹研制出来一样，谁都无法阻止好奇的研究人员用现有的技术开发出更加智慧的 AI，科学探索的脚步也从来不会就此停止。“必要且合理”的监管，即是 AI 狂热奔跑路上的“减速带”，也是阻止生成式人工智能造成真正伤害的“最后防线”。
但聚焦于“如何避免由监管导致在 AI 竞赛中落后”，仍是立法者最为关心的事情之一。相关法例毫无疑问也会随着更多的经验与反馈变得更加完善。
“监管机构将秉承着科学立法、开门立法的精神，及时地予以修改完善。”《暂行办法》中关于生成式 AI 的这段话，或许就是生成式 AI 时代立法的最好原则。
本文来自微信公众号：电厂（ID：wonder-capsule），作者：张勇毅，编辑：高宇雷
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
