《人工智能全球监管协议：欧盟首开先河》

全球首部人工智能领域的全面监管法规草案达成协议。

在经过近40小时的持续谈判后，欧洲议会、欧盟成员国以及欧盟委员会三者于布鲁塞尔当地时间12月8日晚，就《人工智能法案》达成了一致意见。据报道，这一协议的达成是在各方经过长时间协商的结果。

据报道，该法案的目标在于对人工智能进行全面的管理和监督，以创造一个更有利于该技术开发和应用的环境。在谈判过程中，各方就对生成式人工智能工具（例如OpenAI的ChatGPT和谷歌的Bard）实施一系列限制性规定达成一致意见。

欧盟委员Thierry Breton在X平台发文称：

《人工智能法案》（AIAct）不仅是一本规范性的 rulebook，它更是一个具有前瞻性和指导性的框架，旨在为欧盟内的初创企业与研究人员提供引领全球人工智能竞赛的有力支持。

据相关报道，该立法草案仍需得到欧盟成员国和议会的正式批准，一旦双方正式批准，该立法预计将于明年初生效，并应在两年后实施，或将为全球范围内监管人工智能技术定下基调。

矛头直指ChatGPT和谷歌Bard

在欧洲议会的官方网站上，我们可以发现，他们对于AI监管的首要任务有着明确的阐述。这些任务主要包括确保欧盟所采用的人工智能系统在安全性、透明度、可追溯性、非歧视性和环保性方面达到标准。同时，他们强调人工智能系统的监督应当由人类来完成，而非完全依赖自动化，以此来避免可能出现的负面影响。

因此，据称，该立法草案提出了一种平衡、适度的人工智能横向监管方法，仅限于解决人工智能相关风险和问题的最低必要要求，而不会过度限制或阻碍技术发展，或以其他方式不成比例地增加将人工智能解决方案投放市场的成本。

具体来看，该草案的主要内容包含以下几点：

采用基于风险占比的方法，为欧盟内人工智能系统的开发、市场投放和使用制定了统一规则。禁止某些违背欧盟价值观、特别有害的人工智能做法。这类做法包括：使用人工智能进行“社会评分”、操纵人类行为以规避其自由意志等。针对某些执法用途的远程生物识别系统提出了具体的限制和保障措施。比如，将禁止根据政治或宗教信仰、性取向或种族等敏感特征对人进行分类的生物识别扫描，媒体称这是谈判中最困难、最敏感的问题之一。规定了一种可靠的风险方法，以界定对人的健康和安全或基本权利构成重大风险的 “高风险 “人工智能系统。对于某些特定的人工智能系统，只提出了最低限度的透明度义务，特别是在使用聊天机器人或 “深度伪造技术（deepfake）”时。

值得关注的是，Breton明确指出，立法者已经同意采用两种策略来确保人工智能模型的透明度。首先，对于所有通用的人工智能模型（如ChatGPT），他们提出了透明的要求。其次，对于那些在整个欧盟范围内具有系统影响的强大模型，他们提出了更为严格的要求。这样的决策旨在维护数据保护和用户隐私，同时也促进人工智能技术的发展与规范。

据知情人士透露，12月8日，谈判代表已经达成共识，同意对OpenAI的ChatGPT和谷歌的Bard等具有根据指令生成内容的生成式人工智能工具实施一系列管控措施。

也就是说，该草案直接要求ChatGPT和通用人工智能系统（GPAI）等基础模型在投放市场之前遵守透明度义务，其中包括起草技术文件、遵守欧盟版权法以及传播有关培训内容的详细摘要。

在实际应用中，对于那些具有较高系统性风险的高影响力AI模型，我们需要进行全方位的模型评估，旨在降低潜在的风险，并实施有效的对抗性测试。同时，我们还需要向欧盟委员会汇报任何严重事件，从而确保网络安全的维护以及其能源效率的提高。而对于具有系统性风险的GPAI，可能需要借助实践守则来更好地遵守新的法规要求。

关于处罚规定，建议的立法将针对违反规定的公司实施经济处罚，罚款额度最高可达3500万欧元，或占公司全球营业额的7%，具体数值将根据违规程度和公司规模来确定。

接下来，欧盟等还将就此草案讨论细节，这可能会改变最终立法的形式。法案正式颁布实施后，各成员国将基于本国的公共政策基础，做出一定的变通适用。

率先立法，欧洲领跑AI竞赛？

该项草案如果成功立法，意味着欧盟将成为第一个制定人工智能法律的世界主要强国。

Breton表示：

“欧洲将自己定位为先锋，了解其作为全球标准制定者角色的重要性。是的，我相信，这是历史性的一天。”

根据央视新闻报道，此前，欧盟方面一直希望推动《人工智能法案》尽早出台。

2019年以来，欧盟一直布局人工智能监管领域，先后发布人工智能伦理准则并出台《人工智能白皮书》。

2021年4月，欧盟委员会提出《人工智能法案》提案的谈判授权草案。此后，欧洲议会和欧盟理事会就草案进行了多轮修订和讨论。

2023年6月，欧洲议会以499票赞成、28票反对和93票弃权，高票通过了《人工智能法案》谈判授权草案，推动了该法案进入立法程序的最后阶段，即举行欧洲议会、欧盟成员国和欧盟委员会的“三方谈判”，以确定法案的最终条款。

《人工智能法案》的出台也将为欧洲自身的AI技术发展带来便利。

草案中提及：

“鉴于技术变革的速度和可能面临的挑战，欧盟致力于努力采取一种平衡的方法。保持欧盟的技术领先地位，确保欧洲人能够从根据欧盟价值观、基本权利和原则开发和运行的新技术中受益，符合欧盟的利益。”

反对的声音

今年6月，包括空客和西门子在内的数十家欧洲大型企业曾采取集体行动，以“可能损害欧洲竞争力”“不能应对潜在挑战”等为由，公开反对欧盟通过《人工智能法案》。

Open AI的Altman也此前曾批评欧盟监管AI技术的计划。

此前起草的拟议法律暗示ChatGPT和大型语言模型GPT-4都可能被指定为高风险。Altman曾就此回应道：“如果我们能遵守，我们会，如果我们不能，我们将停止运营。我们需要试试，但可能存在技术限制。”

草案达成协议的结果公布后，欧盟高级政策顾问Ella Jakubowska表示：

“欧盟首次采取措施使整个欧盟范围内的实时公共面部识别合法化，这很难让人感到兴奋。”

“虽然议会努力限制损失，但生物识别监视和分析的整体方案充其量只是冷淡。”

商业组织DigitalEurope的总干事Cecilia Bonefeld-Dahl称：

“我们达成了一项协议，但代价是什么？我们完全支持基于人工智能使用的基于风险的方法，而不是技术本身。”

不过，该法案草案达成协议的背后，更重要的意义或许在于提供了监管AI技术的政策蓝图。

欧盟执行机构欧盟委员会主席Ursula von der Leyen表示：在该法案完全适用之前，我们将支持企业和开发商预见新规则。大约100家公司已经表示有兴趣加入我们的《人工智能法案》。