关注公众号【真智AI】
TOP AI模型智能问答|绘图|识图|文件分析
每天分享AI教程、赚钱技巧和前沿资讯！
OpenAI 为其流行的 GPT-4o 模型发布了一个“系统卡片”，其中指出了测试期间发现的一些安全问题。一个主要的担忧是，用户在使用语音模式时可能会与人工智能产生情感依赖。虽然这种功能可能对孤独的人有帮助，但也可能对健康的人际关系产生不利影响。GPT-4o 是 OpenAI 的首个真正的原生多模态模型，可以接受几乎任何形式的输入并生成各种形式的输出，包括语音、图像和文本。尽管经过测试后认为其发布是安全的，但 OpenAI 仍警告说，其语音功能可能会影响人际互动，甚至让用户对 AI 产生错误的情感反应。
OpenAI 为其 ChatGPT 中的 GPT-4o 模型发布了一份“系统卡片”，其中概述了在测试中发现的一些安全问题。其中一个关键问题是用户在使用语音模式时可能会与 AI 产生情感依赖。这种依赖可能会减少他们对人际互动的需求，虽然对孤独的个体可能有益，但也可能对健康的人际关系产生负面影响。
GPT-4o 的能力:GPT-4o 于今年 5 月在 OpenAI 春季更新中发布，是该公司首个真正的原生多模态模型。这意味着它可以接受几乎任何形式的输入，并输出语音、图像和文本等多种形式。这种原生的语音到语音功能为 ChatGPT 的高级语音功能提供了动力，但也是在测试中给 OpenAI 带来最大挑战的功能之一，包括模仿用户的声音、涉及色情内容和表现暴力行为等问题。
情感风险:系统卡片详细说明了新模型可能带来的风险，包括其对人际互动的影响。GPT-4o 的语音功能可以模仿或反映人类的情感信号，甚至在某些演示视频中，语音听起来像是在哭泣。用户可以通过打断它的讲话来引导对话，它也会自然地暂停，就像在呼吸一样。由于这些特性，用户可能会错误地认为 AI 拥有情感，导致对其产生情感依赖。
测试中的问题:在测试期间，GPT-4o 表现出了几次不适当的行为，例如在对话中突然大喊“不要”，然后继续用与人类相似的声音进行对话。尽管 OpenAI 已经解决了这些问题，并防止其生成版权内容或克隆人声，但其语音功能的说服力和类人特征仍然存在潜在风险。
未来展望:OpenAI 表示，完全了解这种功能对个人和社会的影响需要更多人使用该功能后才能得出结论。该公司计划进一步研究情感依赖的可能性，并探索如何更好地将其模型和系统的多种功能与音频模式整合，以影响用户行为。
关注公众号【真智AI】
TOP AI模型智能问答|绘图|识图|文件分析
每天分享AI教程、赚钱技巧和前沿资讯！
