AI危机：350位行业高管、专家签署公开信警告AI灭绝风险

近期，超过350位在人工智能（AI）领域具有行业地位的高管、专家和教授联合发表了一封公开信，提醒人们关注AI技术可能带来的潜在威胁。在这些专业人士看来，AI的发展可能会给人类社会带来毁灭性的后果。

一封由非营利组织人工智能安全中心（Center for AI Safety）发布的公开信，得到了包括OpenAI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌高管在内的众多签署者的支持。

一封由超过350名从事人工智能领域的高管、研究人员和工程师共同签名的公开信指出，应对AI带来的灭绝风险应将其与其他社会规模的风险（如流行病和核战争等）一同视为全球优先事项。这封公开信强调了加强监管和管理的重要性，以确保未来避免类似问题的发生。

　　来源：官网截图

自人工智能助手ChatGPT引发AI热潮以来，关于该技术的潜在风险担忧不断升级。最近的一封公开信引起了广泛的关注和讨论，从而促使人们进一步深入思考和探讨AI技术的发展与应用。

　　其实早在今年3 月，就一篇有关叫停 6 个月 AI 研究的公开信火遍了全网。

一封由1000多名行业高管和专家签名的公开信已经发布，其中包括特斯拉CEO埃隆·马斯克。在这封信中，这些人呼吁在接下来的六个月内暂停高级人工智能的开发。这些人士认为，高级AI可能带来对社会和人类的深远风险。

　　公开信的原文如下：

人工智能拥有与人类相媲美的智慧，这一事实已经通过众多科学研究得以证实，并获得了顶级AI实验室的认可。正如广受关注的阿西洛马尔人工智能原则（Asilomar AI Principles）所说，先进的AI技术可能会引发地球生命历史上的重大变革，因此，对其进行相应的关注、资源和规划与管理是至关重要的。然而，令人遗憾的是，即便是在近期，AI实验室在开发和部署日益强大的数字化思维方面仍陷入了失控的竞争。无人能理解、预测或可靠地控制这些数字化思维，包括它们的创造者自己在内。如今，现代AI系统已经在通用任务领域具备与人类竞争的能力，这是我们不禁要问自己的问题：如何确保AI技术的健康、可持续发展，并在可能的范围内避免其带来的潜在风险？

　　我们应该让机器充斥我们的信息渠道，传播宣传和谎言吗？

　　我们应该将所有工作都自动化，包括那些令人满足的工作吗？

　　我们应该发展可能最终超过、取代我们的非人类思维吗？

　　我们应该冒失控文明的风险吗？这些决策不应该由非选举产生的科技领导人来负责。只有当我们确信AI系统的影响是积极的，风险是可控的，我们才应该开发强大的AI系统。这种信心必须得到充分的理由，并随着系统潜在影响的增大而增强。

　　OpenAI 最近关于人工智能的声明指出：「在某个时候，可能需要在开始训练未来系统之前获得独立审查，对于最先进的努力，需要同意限制用于创建新模型的计算增长速度。」我们同意。现在就是那个时刻。因此，我们呼吁所有 AI 实验室立即暂停至少 6 个月的时间，不要训练比 GPT-4 更强大的 AI 系统。这个暂停应该是公开和可验证的，并包括所有关键参与者。如果无法迅速实施这样的暂停，政府应该介入并实行一个暂禁令。

　　AI 实验室和独立专家应该利用这个暂停时间共同制定和实施一套共享的先进 AI 设计和开发安全协议，这些协议应该由独立的外部专家严格审核和监督。这些协议应确保遵守它们的系统在合理怀疑范围之外是安全的。

　　这并不意味着暂停AI发展，而只是从不断迈向更大、不可预测的黑箱模型及其突现能力的危险竞赛中退一步。AI 研究和开发应该重点放在提高现有强大、先进系统的准确性、安全性、可解释性、透明度、鲁棒性、对齐、可信度和忠诚度。与此同时，AI 开发者必须与政策制定者合作，大力加速 AI 治理体系的发展。这些至少应包括：

　　专门负责 AI 的新的、有能力的监管机构；

　　对高能力 AI 系统和大型计算能力池的监督和跟踪；

　　用于区分真实与合成内容、跟踪模型泄漏的溯源和水印系统；

　　健全的审计和认证生态系统；对 AI 造成的损害承担责任；

　　技术AI安全研究的充足公共资金；

　　应对 AI 引起的巨大经济和政治变革（特别是对民主制度的影响）的资深机构。人类可以在 AI 的帮助下享受繁荣的未来。在成功创造出强大的 AI 系统之后，我们现在可以享受一个「AI 盛夏」，在其中我们收获回报，将这些系统明确地用于造福所有人，并让社会有机会适应。在面临可能对社会造成灾难性影响的其他技术上，社会已经按下了暂停键。在这里，我们也可以这样做。让我们享受一个漫长的AI盛夏，而不是毫无准备地冲向秋天。

本文源自：AI星球