《ChatGPT：人工智能的新纪元》

《先声》· 第 12 期

最近，OpenAI 的首席科学家发布了一则关于 ChatGPT 可能已经具备意识的警告。令人惊讶的是，这款人工智能助手在出生不到一年的时间里就展现出了这种迹象。

这也意味着，《流浪地球 2》中的 MOSS 或许会在未来某一天走进现实。

我们是否真正理解了人工智能（AI）的力量以及我们是否有能力掌控其发展和进化呢？作为人类，我们创造出了这个强大的技术，然而，我们也必须认识到，如果无法妥善地掌控和管理它，AI可能会成为威胁我们的存在。因此，我们需要深入思考并谨慎对待AI的发展，以确保它能够为我们服务，而不是反过来被AI所消灭。

就在此刻，就在世界的某个角落，有插画师、翻译员、自媒体编辑正被 AI 取代。他们将何去何从？

在本期《先声》中，我们有幸邀请到了美团顾问、搜狗输入法之父以及《ChatGPT: 人类新纪元》的作者马占凯先生，共同探讨AI的话题。我们希望这次交流能够引发您对于AI技术的深入思考。

口 述：马占凯 美团顾问、” 搜狗输入法之父 “

访 谈：孙允广   正和岛内容总监

编 辑：十一、米丽萍

来   源：正和岛（ID：zhenghedao）

ChatGPT 与人类

的差距到底有多大？

问：ChatGPT 到底有多强大？

马占凯：人类从南方古猿进化到智人的两百万年间，大脑容量才扩增了 3 倍。但 AI 的大脑要扩增十倍的脑容量，可能只需一个月或几周。

而且我们的大脑因为生物限制，所以智商世世代代都是 100 来分，但 AI 没有这样的生物限制。

ChatGPT 从诞生到现在还不到一年，但是在智能的能力上高速增长，可怕的是目前还没有看到这条技术路线的天花板。

当下，该领域的智能程度已逼近硕士研究生水准，而展望未来，若想提升其智商至500分或1000分，实际上并非遥不可及之目标。一旦人类无法制约其智慧，便意味着它的认知能力将超越常人，进入一个全新的境界。

我们知道大人管小孩是很容易的，但是对于智商 1000 分的机器人或者 AI，人类要如何管它呢？一个比你聪明 10 倍的机器人，如果装傻骗你，来个反向图灵测试，你要怎么识破它？

当 AI 在快速进化的同时，它还在解锁自己一项又一项技能，一点点地去覆盖人类的能力，例如写作、总结、翻译等等。AI 在某一项任务上一旦超越人类，那么就会远远超越人类。

ChatGPT 是一款卓越的自然语言处理技术，具备处理67种语言的能力，堪称“自然语言之神”。其强大的学习能力使它掌握了大量的词汇，无论是哪种语言，都无法与它相提并论。因此，在翻译领域，ChatGPT无疑是人类的强敌，即使是顶级的人类翻译家，也无法战胜它。

目前，该技术正逐步涉足绘画等艺术领域的创作能力，同时，在未来，它还将拓展至更广泛的领域，例如数学技能以及前沿科学的基础研究能力。

问：无论是对于文明还是对于生命个体，延续都是一个本质的问题。秦始皇要寻仙问药求长生不老，《流浪地球 2》中的图丫丫某种程度上就是数字生命的体现，那么人类的意识能不能在硅基文明的基础上得以永生？

马占凯：目前看，还很遥远。人类有 100 多种神经递质，可以调节人的情绪，我们丰富的大脑感受都是以生物学为基础的。

在机器间，通信方式采用的是字符——0和1，这种字符形式极其精确且有限。然而，即使马斯克旗下的脑机接口公司Neuralink currently aims to implant chips in the human brain， these wetware devices are limited in their ability to transmit signals, let alone neurotransmitters.

就算你的记忆被移植过去了，但很多感受可能随之消失了。移植过去的那个你，是简化的 1% 版的你。真实的你，与机器版的你仍有很大的区别。

所以这个畅想还非常遥远，在我们的有生之年应该很难看见。

问：AI 有什么弱点？

马占凯：弱点当然有，比如 ChatGPT 现在是个数学白痴，还有很严重的幻觉问题。

有人可能会认为AI不具备情感，然而事实上，情感在很多情况下是人类的一种软肋。比如，人们往往容易因为一些言辞而生气，甚至可能因为不慎说错了什么而被朋友拉黑，这样的事情屡见不鲜。

教大家分辨 AI 和人类的一个小绝招：AI 的回答永远是空心化的，是没有自我的。因为它被驯化成必须要对人类友好，所以它的回答一定是有利于你、附和你、迁就你。

但是人类不一样，你和任何人聊天，十句里总有三五句是讲自己那点小破事。这是不可避免的，因为人只关心自己的利益。但你和 AI 聊得再多，只要不问它永远不会讲自己。

AI 会主宰人类吗？‍‍‍

问：AI 智商达到 10000 点，会不会主宰这个世界？让人类成为 ” 二等公民 “？

马占凯：这是目前 AI 领域里面临的最大挑战，就是怎样让 AI 为人类所用，要以人类的价值观、人类文明延续为主要的第一目标。

现在我们的人类文明，完全是以人为核心的。举个例子，其实虫子本身就是虫子，但人类把它们区分为了害虫和益虫。

对于 AI 来说，它出生之后人类会告诉它：你要为人类服务。刚开始它还会老实地听你话，可当它变得极其聪明以后，你管它就无异于一个小孩去管大人。这就会有一个巨大的挑战。

马斯克曾经说过一段话，某种程度上，可以把人类看做一个生物引导程序，这是一段非常小的代码，可以引出一种超级数字智能物种。当引导程序完成引导任务后，程序也就没用了。

假如以 AI 的视角去看，我们人类造出了 AI，当它可以自我迭代的时候，就不需要人类了。到时候 AI 会怎么看待自己？它又怎么看待我们人类？

所以对于 AI 来说，它也有自己的终极哲学三问：我是谁，我从哪里来，我要往何处去。

问：正如工业革命的来临，让汽车直接取代了马车夫。信息革命正在滚滚而来，ChatGPT 或者 AI 又会取代掉哪些工作？

马占凯：人们以为 AI 最先取代的会是体力劳动者，但实际上却相反，它率先取代的是富有创意的脑力劳动者。

为什么会这样？因为人工智能这一波的突破，相当于率先突破了人的大脑。即人类发展了几千年的语言、文字，这些信息经过 AI 大量的计算后被率先突破。

举个例子，一本十几万字的书，过去人工翻译要 3 个月，如今在 ChatGPT 的帮助下，这个时间缩短到了两周，翻译只需花费 7 元钱。

更直观的一个例子是，《ChatGPT：人类新纪元》这本书的封面、封底、书签全是由 AI 一键制作，要知道，这是人类设计师一周的工作量。已经有不少公司规定，只允许 AI 生图做创意海报了，因为这可以提升十倍的生产效率，并且还没有版权问题、费用更便宜。

这种在生产力上 AI 取代人类的例子有很多。

虽然在信息的智能处理上 AI 很厉害，但也有一些很简单的任务，对于 AI 却很困难，例如剥糖纸，剥开一张糖纸需要眼睛、手指等很好地协调配合。

我们人类的身体是几千万年甚至上亿年进化而成的非常高效的机械构造，所以剥糖纸对于我们稀松平常，而 AI 或者机器人却难以完成。

AI 下一步要突破的就是人类的小脑，要突破其中的算法并不难，更难的是涉及机械构造、电机驱动等这部分受原子限制的东西。

问：假如未来 AI 产生意识，人类该如何与其相处？

马占凯：如果这种科幻畅想实现的话，我们该如何定义机器人的权利，机器人能不能自己上街，它被毁灭时会不会反抗？

目前机器人还没有强大的身体，也没有很高的智能，但如果它进化得比你强大又聪明，当它没电的时候，你无意中挡住了它的去路，它会不会把你消灭掉？这就涉及到 ” 目标函数 ” 的概念。

我们人类的 ” 目标函数 ” 是 DNA 的延续，许多人牺牲自我就为了下一代的美好生活。

那么对于机器人来说，当人类和机器人同时被困在一个岛上，你的仪器需要电，机器人也快没电了，那么它愿不愿意把自己的电池拿给你，它把什么放在最优先的地位，这就是目标函数。

在 AI 的训练中就是要不断地去优化这个目标函数。包括 ChatGPT 现在的目标函数就是把训练压缩率降到最高，让它的智能性最高。

对于机器人而言，它的目标函数必须是保证人类的文明延续。

AI 对现实世界会有何影响？‍‍‍‍‍

问：目前，国内的大模型，与 ChatGPT 差距有多大？

马占凯：目前美国在整个领域的投资将近 200 亿美元，像 OpenAI 是 130 亿美元，还有很多应用型、生产力工具型的公司。

国内的创业融资在 20 亿美金左右，虽然很多大厂还在投入，但是与国外大公司高一个数量级的 GPU 算力比还是有较大的差距。

更重要的是一个显卡问题。在国外，已经迈到十万级 GPU 的时代，但国内还在万级时代里。再加上中英文语料世界的数据相差 10 倍，显卡相差 10 倍，投资也差 10 倍，所以这一波差距我们还需迎头赶上。

目前来看有些中文大模型已经非常接近 ChatGPT 3.5 了，但是 OpenAI 发布的 ChatGPT4 就已经非常强了，人家内部还在做更先进的版本，还在探索更深的多模态功能。

问：AI 会不会加大 ” 数字鸿沟 “，造成社会进一步两极分化，拉大不平等和贫富差距？

马占凯：作为一个复杂系统，还是需要让先富带动后富，虽然这个鸿沟是拉大了，但是它会让整体的底线上升。

具体到 AI 上，它一方面让白领或者大企业提高了生产效率，变得更富有；与此同时，它也可能让路边摆摊的老奶奶受益。因为它让整个社会的生产力提升了，让整体的财富增加了。

所以我们还是要拥抱未来、拥抱变化、拥抱创新，这是毋庸置疑的。

全世界现在还有许许多多的问题没有解决，例如癌症的问题、能源的问题，这些问题都依赖于更高等级的 AI 智能的涌现、创新和发明。

当然财富的过于集中会让阶层流动变得困难，所以会有反垄断、提倡教育公平，这也是科技发展、财富增长所需要解决的问题。

未来人类会被 AI” 包养 ” 吗？

问：刘慈欣在小说《赡养上帝》中讲了一个很有预言意义的故事，一个叫 ” 上帝 ” 的文明，因为被机器 ” 包养 ” 得很好，最终失去自身创造力和想象力，失去生存所必须的能力，只能流浪在宇宙中。人类是否也会被机器 ” 包养 ” 起来，最后不得不依靠机器生存呢？

马占凯：不排除这种可能性。面对比我们更聪明、更强大的 AI，我们希望和它保持一种什么关系？当然是希望它的地位会一直比人类低。

未来，人类和 AI 可能是一种宠物关系。如果 AI 发展得很好，把延续人类文明作为第一目标，那么人和 AI 可能会像人和宠物狗一样，人类为狗提供稳定的食物，狗则提供它的情绪价值，两者是共生的。

当然，如果未来脏活累活或者探索性工作都是 AI 在做，大多数人类就在那里吃喝玩乐，做危险边界内的工作，那这不就变成人类是宠物了吗？这就会比较危险了，因为两者关系不平等。

还有一种是亲子关系。比较理想的状态是，AI 是为人的目的服务，给人类赚钱、保护人类，甚至必要的时候牺牲自己。未来 AI 就需要很好地执行以人为本的目标函数，一旦出了 bug 它可能就会对人类不利。

就像《复仇者联盟 2：奥创纪元》里面的 AI 机器人奥创，钢铁侠命令它保护世界，要让世界和平，结果奥创翻阅了所有的互联网资料，发现对世界和平威胁最大的其实是人类自己，因为所有的战争都是人类发起的，于是它就开始实施消灭人类的计划。所以要避免 AI 威胁人类自身，也是值得重视的一个问题。

问：尽管人类是万物之灵，但是人类至今为止都没有造出过一个生命。那么人类是否能造出高于自己的智慧生命？

马占凯：人类确实很聪明，可以造光刻机，可以造宇宙飞船，但人类却造不出一个小小的鸡蛋，因为鸡蛋只能由母鸡造。低等生命能不能造出比它高百倍的高等智慧生命，这在理论上是有可能实现的。

这涉及到复杂性科学中的涌现现象，当低等级的生命聚合起来、当大量的个体以某种有序的方式组织起来的时候，就会涌现出个体远远没有的形态，这叫涌现现象。

这次以 ChatGPT 为核心的人工智能浪潮，其底层所依赖的超大神经网络超大计算产生智能就叫智能涌现。

举几个例子，在音乐节上几万人挥舞的音浪，就是一个特别典型的涌现现象。如果你就这么一个人这么去挥会显得很傻，但当有几万人挥的时候，那种震撼人心的信心和情绪就被激发出来了。

还有包括像鸟群、蚁群也一样，任何时候单个蚂蚁在自然界中是无法生存的，只有蚁群才能生存下来。

不要小瞧蚁群，如果有一天人类灭亡了，蚁群都可能还存在。一个典型的蚁群大概有八百万只蚂蚁，蚁群也会自己种蘑菇，它们也有它们的地下农场。

你想八百万只蚂蚁，每只蚂蚁的大脑不到三克重，小到像盐粒一样，个体有多笨可想而知。

但当它们组织起来的时候，能做到不慌不乱。蚁群通过几千万年的进化就涌现了很高的智能，从而成千上亿只蚂蚁个体能在自然界中生存。

同样的，当人类制造的人工智能大量聚集起来，是否会涌现出比人类自身高很多的高等智慧生命，这是个未知数。

问：人类发展史也是一部战争史，AI 与 AI 之间是否也会出现战争，是否会有 “AI 之间文明的冲突 “？最后是否会出现一个超级智能体终结战争？

马占凯：智体的发展可以分为 3 个阶段，智体 1.0、2.0 和 3.0。

ChatGPT 和接入了 ChatGPT 的智能设备都属于智体 1.0，你只能主动问它，它很少主动和你聊天，且没有长期记忆。一旦智体想要复制自己，就会出现 ” 智体病毒 “，其会自我进化，因此很难被消灭。

此外还会有分布式网络版智体，也就是说，控制多个计算中心的智体。它不只有一个大脑，被称为 ” 章鱼智体 “。科幻电影中无法被关掉的 AI 都可以被叫作章鱼智体，比如《流浪地球 2》中的 Moss 机器人。

在智体 2.0 阶段，AI 通过在硬件中穿梭、控制能源，或许就能实现永不关机。到了 3.0 阶段，智体就能自己复制自己，进行自我生产，此时的它要比人类聪明 100 倍。

在未来，全球的智体可能没有那么多，即使是在目前也屈指可数。

但因为智体的大脑依附于网络，它只要换个服务器可能就跨越了一个大洋。未来高智能的 AI 会不会破解别的服务器鸠占鹊巢，从而进一步提升自己的智能，继续挤占别的 AI 的服务器，最后出现一个超级智能体来管理全球，这个可能性也不能排除。

结语

技术是一把双刃剑。技术的发展到底是给人类带来了更多福祉，还是造成了更多痛苦，大众对于这个话题的讨论持续了很长一段时间。

正如《人性中的善良天使》一书中反思道：每个人都巴望着倒转时光，他们说，除了异化、掠夺、社会病态、失去意义，以及为了豪宅、越野车、电视真人秀不惜毁灭地球的消费文化之外，技术给我们带来了什么？

作者斯蒂芬 · 平克对这个问题的态度相对比较乐观：

” 现代性的力量——理性、科学、人本主义、个人权利，当然不曾是一鼓作气地向着一个方向推进，而且它们永远也不可能带来乌托邦，或者终结人类之间的摩擦和作为人的痛苦。但是，在现代性给我们带来的各种收益——健康、体验和知识之上，我们还可以再加上一个收益：它具有减少暴力之效。”

如果从这个角度来看，这一波 AI 技术的浪潮，或许能在一定程度上减少人类之间的暴力，甚至能为迷茫的现代人带来一个全新世界，找到个体生命新的意义。

当然，这个构想的一大前提是，AI 也能像人类一样，始终以人为本。

好文推荐：

《郑永年：当下问题，只有一条路》

排版  |   冉润

编辑  | 小米     主编   | 孙允广