人工智能危机:350位专家共同签署22字声明

超过350名人工智能行业的人士联合签署了22字简洁声明。

在当前的科技环境中，一些顶尖的人工智能研究人员、工程师和CEO们最近发出了一项重要警告，他们认为人工智能对人类的生存构成了潜在威胁。这项警告呼吁将降低人工智能引发灭绝风险的任务，与应对流行病、核战争等全球性社会风险的措施并列，成为全球关注的优先级任务。

在5月30日的某个时刻，一份仅包含22个单词的声明在非营利组织人工智能安全中心（Center for AI Safety）的官方网站上发布。这个网站指出，随着人工智能技术的日益普及，越来越多的人开始关注这项技术所带来的一系列重要且紧迫的风险。尽管如此，对于一些最严重的先进人工智能风险，我们的担忧仍然难以言表。因此，这篇文章的目的是为了帮助克服这一难题，鼓励更多的专家和公众参与到关于先进人工智能风险的讨论中来。同时，也希望为那些对先进人工智能风险给予严肃对待的专家和公众提供必要的常识知识。

在全球范围内，超过350位从事人工智能领域的人士共同发表了一份重要声明。这些签署者包括Google DeepMind首席执行官戴米斯·哈萨比斯（Demis Hassabis）、OpenAI首席执行官山姆·奥特曼（Sam Altman）——“AI教父”杰弗里·辛顿（Geoffrey Hinton）以及约书亚·本希奥（Youshua Bengio）。值得一提的是，辛顿和本希奥因其在AI领域的杰出贡献，荣获了2018年的图灵奖。然而， Meta首席人工智能科学家杨立昆（Yann LeCun）尚未在声明上签字。

在今年早些时候，部分签署者发布了一封公开信，提议暂停研发至少6个月比GPT-4更为先进的AI技术。尽管此信在多个领域引发了广泛的讨论，但它所提出的观点并未得到所有人的认同。一些专家质疑该信过于夸大了人工智能所带来的潜在风险，而另一些人则认可这种风险的存在，但对于信中提出的解决方案持有保留意见。

在一次对《纽约时报》的访问中，人工智能安全中心执行主任丹·亨德里克斯（Dan Hendrycks）表示，5月30日的声明过于简短，并未提出任何缓解人工智能威胁的潜在策略，其主要目的是为了避免产生此类分歧。亨德里克斯强调：“我们并不寻求创建一个包含30个潜在干预措施的大型菜单，因为这样的做法可能会削弱想要传达的信息。”