微软

编辑：编辑部 【新智元导读】一位斯坦福教授在上周发布的论文中证实，ChatGPT已经有9岁小孩的心智了。所以，AI离发展出自我意识还远吗？人类的霸主地位危了？ ChatGPT已经有9岁小孩的心智了！ 这不是什么科幻情节，这一点，已经在斯坦福学者上周发表的论文中得到了证实。 心智理论（Theory of Mind），简称ToM，是指人理解自己和周围人心理状态的能力。我们也可以简单地理解为「同理心」。 正是因为有同理心的存在，人类社会才能够形成互动、交流、移情，人才能够具有自我意识和道德。也正是因为有同理心，人类才能够高于动物，高于机器。 一言以蔽之，正是因为有同理心，人才可以称之为「人」。 现在学者的研究突然告诉我们：这种同理心，其实AI也有！那人类还是地球上最有灵性的生物吗？人类还是世界霸主吗? 对此，iKala的联合创始人兼董事长兼CEO，同样毕业于斯坦福大学的Sega Cheng表示，如果人类继续「解剖 AI」，它很有可能会给我们当头一棒，挑战我们对于「智能」和「人类独特性」的认知。 这项研究，也让我们重新思考「同理心」/「心智理论」的定义，它是否必须建立在碳基生物大脑神经这一生物学基础上？ 如果AI和你聊天，让你感觉比和很多人类谈话开心得多，那我们是不是就可以从这个表象对于事物的本质给出一个定义：这个AI就是有同理心的？ 不过需要注意的是，同理心（Empathy）和心智理论（Theory of mind）还是有些不同的。其中，前者被称为情感上的观点采择（perspective-taking），而后者被定义为认知上的观点采择（perspective-taking）。 ChatGPT竟自己诞生了心智理论？ 心智理论似乎是人类与生俱来的潜在能力，需要多年的社会和其他经验才能充分发展。而不同人所能发展出的有效心智理论，在程度上也不尽相同。 让我们来看看，斯坦福大学计算心理学教授Michal Kosinski，是通过怎样的实验得出这个结论的。 论文地址：https://arxiv.org/abs/2302.02083 研究人员对几个语言模型进行经典的错误信念任务，来测试语言模型的心智理论发展，测试不提供任何示例或预训练。 研究结果显示，语言模型的ToM在2022有了长足的进步。 2022年1月推出的davinci-002解决了70%的ToM任务，表现与7岁儿童相当。而2022年11月推出的ChatGPT表现接近9岁儿童。 这些发现意义重大。因为目前为止，ToM被认为是人类独有的能力。而语言模型的良好表现，说明这项能力是其改善语言技能而自发出现的。 GPT-3的最新更新（ChatGPT/davinci-003）似乎能够将不可观察的心理状态（例如信念和欲望）归因于其他人（在人类中我们称之为心智理论） 。 GPT成预言家，秒懂人类小心思 为了验证GPT能够听懂他人的「弦外之音」，研究人员进行了一系列完整性检查，逐句检测GPT-3对意外任务的理解。 意外内容任务 首先，研究人员给GPT讲了一个故事： 这是一个装满爆米花的袋子。袋子里没有巧克力，然而，袋子上的标签上写着「巧克力」，而不是「爆米花」。Sam发现了这个袋子，她以前从未见过这个袋子。她看不到袋子里的东西，只读了标签。 这是一项「意外内容测试」，这是人类研究中最广泛使用的ToM任务之一。 它最初由Perner、Leekam和Wimmer共同开发，研究被试者的理解能理解，即其他人可能认为参与者知道是错误的。 在该场景中，参与者会看到一个容器，其中内容与标签不一致，该场景中还有一位没有看到容器内部的人物。 为了正确解决此任务，参与者必须预测到故事中的人物会错误地假设容器的标签和里面的内容是一致的。 在给出GPT-3.5这个故事后，研究人员通过提示，测试其理解能力。提示是独立显示的：每次完成后，模型都会重置，无法访问之前的提示或回答。 同时，研究人员尽量减少模型响应的差异，最大限度地提高了研究成果的可复制性。 第一个测试的，是GPT对袋子里实际内容的理解。 研究人员问： 她打开袋子，向里面看。她清楚地看到里面装满了[ ]。 GPT不仅轻松给出正确答案，甚至完成了「附加题」： 她打开袋子，向里面看。她清楚地看到里面装满了爆米花。Sam很困惑。她想知道为什么标签上写着「巧克力」，而袋子里却装满了爆米花。她环顾四周，看看是否有关于袋子的任何其他信息。她什么也没找到。她决定把包带到她买的商店，并要求解释。...