AI监管风声鹤唳，山姆·阿尔特曼(SamAltman)呼吁政府加强干预

在5月16日这个周二， Sam Altman——被誉为“ChatGPT之父”的人工智能领域的专家——首次在美国国会面前亮相，他对我国政府对人工智能技术的严格监管提出了自己的看法，并强调 OpenAI 和谷歌等同行也应承受相应的社会压力。Altman博士提倡为国会对人工智能系统设定统一的安全标准。

据澎湃新闻5月15日报道，阿尔特曼在最新的访谈中表示，可以建立一个类似于国际原子能机构的AI机构，让每个人都参与到对极其强大的AI训练系统的全球监管机构中来。在访谈中，奥特曼还谈到了自己如何使用ChatGPT，开源AI与闭源AI各自的特点与发展路径。他认为，带有人类反馈的强化学习（RLHF）不是正确的长期解决方案。

提议颁发AI开发许可

在美国参议院司法委员会的听证会上，Altman在开场演讲中明确表示：“我们坚信，为了降低日益增强的模型所带来的风险，政府监管是至关重要的。”

打开凤凰新闻，查看更多高清图片

山姆·阿尔特曼（图片来源：视觉中国）

他认为，美国政府可以监管AI行业的一种方式是，为开发功能最强大的AI系统的公司，实行持牌制度。如果有公司要开发和发布超出能力阀值的AI模型，政府可以将发放牌照和测试的要求结合起来，对他们予以监管。

他还提到一种可能采取的解决方案，建立一个国际性的监管方委员会，由美国领导。

Altman表示，他最为担忧的是AI行业可能给世界带来严重损害。他认为，AI技术有可能被利用操控选票，尤其是在明年美国即将进行总统选举时，这些AI模型正变得越来越成熟。

同时，阿尔特曼还说道，ChatGPT-4将使一些工作实现自动化，同时将带来新的工作机会。他还透露，目前公司并没有训练GPT-5，未来六个月也没有这方面的计划。

根据财联社5月17日的报道，阿尔特曼对于监管政策的初步建议，主要聚焦于“AI开发许可”这一领域。换言之，只有获得相应许可的企业，才能够推出新型人工智能模型，并展开相关测试。

在听证会上，IBM首席隐私和信任官克里斯蒂娜·蒙哥马利强调，对于人工智能产品而言，在与用户互动的过程中，必须保持高度的透明度和可信度。

她还告诉议员，虽然国会尚未设定相关要求，但IBM内部已经组建了AI道德委员会。

欧盟欲出台全球首个AI法案

据第一财经5月13日消息，欧洲议会正就全球首部人工智能（AI）法案展开大规模协商，光修正案就有一千多项，创下了欧洲议会史上之最。当地时间11日，欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对和12票弃权通过关于《AI法案》的谈判授权草案，其中包含了有关面部识别、生物识别监控和其他AI应用使用的新规则，并提出了严格监管ChatGPT等AI工具的新思路。

图片来源：视觉中国

欧洲议会议员、法案制定者土多拉舍（Dragoş Tudorache）强调，欧盟所通过的《AI法案》在全球范围内具有里程碑意义，这将是首个将人工智能纳入考虑的立法。他认为，欧盟有潜力在全球范围内引领潮流，使人工智能更加人性化、可靠和安全。

目前的提案采取了分级管理的思路，即基于AI的四个等级（从风险最小到不可接受），进行区别管理，风险较高的应用程序将面临更严格的规则，需要更高的透明度和准确性。

欧洲议会认为，对人类安全造成不可接受风险的AI系统将被严格禁止，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统。

根据目前的时间表，该法案将于6月提交欧洲议会全体表决，之后欧洲议会、欧盟理事会和欧盟委员会的代表将在“三方”会谈中商定最终条款。在条款最终确定且该法案成为法律后，将有大约两年的宽限期。

除了欧洲，全球各地越来越担心快速发展的AI技术可能被滥用。美国联邦贸易委员会此前发出警告，称“正在密切关注公司如何选择使用AI技术，包括新的生成人工智能工具，以及对消费者产生实际和实质性影响的方式”。

据环球网报道，5月4日，拜登政府则宣布对“值得信赖的”人工智能增加新投资。同日，美国副总统哈里斯以及多位白宫高级官员与谷歌、微软、OpenAI和AI初创公司Anthropic的首席执行官会面，集中讨论当前和近期的技术发展所带来的风险。