人工智能危机:超过350名专家联手签署22字声明

超过350名人工智能行业的人士联合签署了22字简洁声明。

在当前的科技环境中，一些顶尖的人工智能研究人员、工程师和CEO们最近发出了一项重要警告。他们认为，人工智能的发展可能会给人类带来潜在的生存威胁，因此需要在处理这种威胁时与其他社会风险（如流行病和核战争等）一样，将其视为全球性的首要任务。这些专家强调了在推动人工智能技术进步的同时，必须关注其可能产生的负面影响，以确保人类的持续发展和繁荣。

在5月30日的某个时刻，一份仅包含22个单词的声明发布在非营利组织人工智能安全中心（Center for AI Safety）的官方网站上。这个网站指出，随着人工智能技术的日益普及，越来越多的人开始关注这项技术所带来的一系列重要且紧迫的风险。尽管如此，对于一些最严重的先进人工智能风险，我们的担忧仍然难以言表。因此，以下的简明扼要声明，旨在帮助克服这一难题，并进一步展开有关讨论。同时，它也试图为众多专家和公共知识分子提供必要的常识，以便他们能够更加重视并关注先进人工智能可能带来的潜在风险。

在全球范围内，超过350位从事人工智能领域的人士共同发表了一份重要声明。这些签署者包括Google DeepMind首席执行官戴米斯·哈萨比斯（Demis Hassabis）、OpenAI首席执行官山姆·奥特曼（Sam Altman）——“AI教父”杰弗里·辛顿（Geoffrey Hinton）以及约书亚·本希奥（Youshua Bengio）。值得一提的是，辛顿和本希奥因其在AI领域的杰出贡献，荣获了2018年的图灵奖。然而，一同获得该奖项的AI巨头Meta首席人工智能科学家杨立昆（Yann LeCun）尚未在声明上签字。

在今年早些时候，部分签署者发布了一封公开信，提议暂停研发至少6个月比GPT-4更为先进的AI技术。尽管此信在多方面受到了质疑和批评，但仍有部分专业人士对此表示赞同其观点，对其提出的方法却并不认同。

在一次对《纽约时报》的采访中，人工智能安全中心执行主任丹·亨德里克斯（Dan Hendryks）表示，5月30日的声明过于简短，并未提出任何缓解人工智能威胁的潜在策略，其目的在于避免产生此类分歧。亨德里克斯强调：“我们并不想推动一个包含30个潜在干预措施的大型菜单，因为这样的做法可能会削弱想要传达的信息。”