ChatGPT-4o 是 OpenAI 聊天机器人阵容的最新迭代产品，正如你所预料的那样，该公司对用户如何与聊天机器人互动有些担忧。鉴于最新版本的聊天机器人可以表现出类似人类的行为和反应，这家人工智能公司担心用户会对聊天机器人产生感情。
ChatGPT-4o 提供了更快的回复，甚至还有模仿人类语音的新语音功能，而这正是 OpenAI 所担心的。
这家市值数十亿美元的初创公司在继续完善其产品的同时，也不能不注意到 ChatGPT-4o 用户的一些行为模式。新聊天机器人的推出旨在提供一种类似于与人交谈的体验，但 OpenAI 似乎低估了用户与程序之间可能产生的情感联系。该公司在下文中重点介绍了其研究结果。
在包括红队和内部用户测试在内的早期测试中，我们观察到用户使用的语言可能表明他们与模型形成了联系。例如，这包括表达共同纽带的语言，如”这是我们在一起的最后一天”。虽然这些情况看起来是良性的，但它们预示着需要继续调查这些影响在更长的时间内会如何体现。除了独立的学术研究和内部研究外，更多样化的用户群体、对模型更多的需求和渴望将帮助我们更具体地界定这一风险领域。
与人工智能模型的类人社交可能会产生外部效应，影响人与人之间的互动。例如，用户可能会与人工智能形成社交关系，从而减少对人类互动的需求–这可能会使孤独的个人受益，但也可能会影响健康的人际关系。与模型的扩展互动可能会影响社会规范。例如，我们的模型是敬而远之的，允许用户随时打断并抢麦，这虽然在人工智能的意料之中，但在人际交往中却是反规范的。
对 ChatGPT-4o 产生感情有多种不利因素。最主要的一点是，以前用户会无视任何幻觉，因为之前迭代的聊天机器人让他们看起来更像是一个人工智能程序，而不是一个人。而现在，随着程序向提供近似人类的体验过渡，它所说的任何话都会被接受，而无需进一步询问。
通过注意到这些模式，OpenAI 现在将监控人们如何与 ChatGPT-4o 建立情感联系，并相应地调整其系统。该公司还应该在一开始就加上免责声明，以免用户爱上它，因为归根结底，它只是一个人工智能程序。
