AI情感助手

2014年第86届奥斯卡颁奖典礼上，一部名为《Her（她）》的电影力压大卫·O·拉塞尔《美国骗局》与伍迪·艾伦的《蓝色茉莉》，斩获了当年的最佳原创剧本奖。该影片讲述了一个孤独的作家逐渐爱上了自己手机里的AI语音助手的故事，这个由斯嘉丽·约翰逊饰演的AI——Samantha，也凭借其沙哑性感的嗓音、风趣幽默的性格与善解人意的体贴征服了无数观众的心。而在10年后，OpenAI的2024新品发布会上，电影中的想象伴随着GPT-4o大模型的发布而有了照进现实的踪迹。这款“全能（omni）”的大模型不仅具备了先前GPT3.5所望尘莫及的高效文本、音频和图像的处理能力，同时，其还具备了通过摄像头等其他传感器收集周围声音、图像信息，并分析、理解人类情绪，且通过运算进行交流、给出建议的能力。 然而，正如我们一直所重申的那样，新技术的诞生往往伴随着新的挑战。AI情感识别技术在带来便利和创新的同时，也可能引发一系列道德与法律层面的风险。因此，今天我们将从以上角度深入分析，看看GPT-4o这位即将走入我们生活的“Her”，究竟又将为我们带来什么挑战。 01 AI情感识别技术有何不同？ 一直以来，情感计算技术都是AI研发者的一项重要追求，所谓“情感计算”是关于人类情感产生、情感识别、情感表示以及影响情感因素度量等方面的计算科学，它利用计算机技术实现了信息载体(如生理特征、文本中的词汇、声音、视频图像等)与人类情感的极性倾向(褒义、贬义或中性)以及强度之间的关系度量，从而促进了情感计算科学的正式诞生,并推动了机器人与机器视觉、人工交互设计、语音识别和文本分析等领域的发展。[1]简而言之，即是一种通过机器学习和大数据技术对人类情感进行识别和分析的技术，AI情感识别系统通过分析文本、语音、视频等多种数据类型，识别和理解人的情感状态，在智能客服、教育、健康监测等领域有着广泛的应用空间。 而本次，GPT-4o所达到的技术高度尚不足以称为完全意义上的“AI情感识别”，严格地讲，其仍然是通过GenAI传统的深度学习方式，通过大量数据的训练，达到了对一些场景的基础识别。但即便如此，GPT-4o也仍在“理解”人类的方面迈出了重要的一步，相较于当前的其他AIGC产品，GPT-4o已经能够与用户进行相对较为自然的交流沟通，并伴随着现实世界中的一些倾向，如打断、理解语气，甚至能够根据用户的反应意识到自己给出建议的正确与否。在OpenAI发布会的演示环节中我们可以看到，主持人要求GPT-4o对他的呼吸技巧做出反馈，其对着手机进行了深呼吸，并被GPT诙谐地调侃为：“你不是吸尘器。”这种富有“幽默感”的回应，显然已经超越了我们传统理解中AIGC较为生硬刻板的训练成果。此外，GPT-4o将可以根据不同的情况改变其回应的语气，更为重要的是，在其传达“思想”的过程中首次出现了不同的语调，这意味着GPT-4o在一定程度上已经可以像人类之间进行对话一样，“理解”自己要表达的内容，并对用户可能的回应有较为合理的预期。因而，抛开实现这一成果的方式在技术层面上是否跳脱了传统GenAI学习方式的框架，能够达到这种程度的AI情感识别，依旧令人感到惊喜。02AI情感识别将带来哪些风险？1. 数据安全 首当其冲的依旧是AIGC老生常谈的数据安全问题。情感识别系统的存在是建立在对大量数据处理的基础上的，这意味着服务提供者的数据保护责任也相应地加重，除了传统的数据存储安全外，其获取数据的价值越高，也就越会遭受黑客等不法行为的觊觎。由于AI情感识别的技术应用会深度渗透进用户的日常生活当中，一旦数据泄露，不仅会造成经济损失，还可能引发社会信任的危机。 2. 隐私权侵害 显然，要实现如GPT-4o的AI情感识别技术，是需要大量个人数据来支持训练和运行的。这些包括语音、视频、文本等在内的数据往往包含用户的个人信息，除具有识别性的外貌信息之外，更可能包含诸如情感状态、心理健康状况等涉及个人隐私的信息。因此，数据安全问题不仅涉及单纯的个人信息问题，更可能导致个人隐私的泄露，侵犯用户的隐私权。 3. 歧视和偏见 由于现阶段情感识别的实现依赖于AIGC技术的基础，因而算法歧视问题仍旧是相关服务提供者跨不过去的“一道坎”。如果训练数据存在偏见，系统即可能会表现出对特定群体的歧视。例如，当训练数据主要来自某一特定性别、种族或年龄段，系统可能对这些群体之外的人群识别不准确，甚至产生误判。而诸如GPT-4o的应用，显然是面向社会不特定主体的。如何能够避免这种情况，确保训练数据的多样性和代表性，并在AI算法设计中引入公平性考虑，是研发者不得不深入研究的课题。 4. 情感操控 严格意义上讲，情感操控并非是法律层面的风险，而是在道德层面对AI情感识别这种前沿技术的伦理要求。一旦情感识别技术得到广泛应用，基于其识别用户情感状态，并精准进行客制化研判的特性，其将可以被用于商业营销、陪伴陪护等生活中的重要场景。然而，这种做法一旦遭到滥用，就将可能导致对用户的情感操控。例如，通过分析用户情感状态，投放能引发负面情绪的广告，从而增加消费欲望。这种操控行为不仅不道德，还可能对用户心理健康造成负面影响。 03如何应对AI情感识别的风险？首先，政策与法律框架完善的完善必须未雨绸缪。技术的变化日新月异，对具有滞后性的立法提出了挑战。因此，相关机构更需要对技术可能产生的社会影响有所预估。一方面，由立法机关加快《数据安全法》《个人信息保护法》等法律法规的解释和完善；另一方面，在法律尚不健全的情况下也有必要依托政策性文件，在相关领域内率先明确情感识别技术的使用规范。其次，相关人工智能服务提供企业需要提高自身的合规和管理意识。AI情感识别技术有着广泛的应用前景，将可能为很多行业带来全新的产业变革。然而，这一切都是建立在企业严格遵守相关法律法规，尽到应尽的合规义务，采取必要的数据保护措施，建立健全内外数据管理规程的基础上的。在情感识别系统的开发和应用中，企业有必要注重算法的公平性，确保训练数据的多样性和代表性，避免系统对特定群体产生歧视。同时，企业有必要加强数据安全审计，及时发现和处理潜在的安全风险；提高系统的透明性，明确告知用户情感识别算法可能存在的误导性风险。最后，整个行业在引入AI情感识别技术时，都应当充分考虑其对用户和员工可能造成的心理健康层面的影响。由于当前技术的开发和应用都仍处在较为初级的阶段，AI对于使用者可能造成影响也暂不明确。因而，服务提供者有必要做好提供心理健康服务的预案。例如，提供心理健康支持服务，定期开展心理健康评估，确保情感识别技术的应用不会对用户和员工的心理健康造成损害等。[2]04写在最后在GPT-4o为我们带来AI情感识别技术令人欣喜的发展的同时，其可能引发的法律和伦理道德风险依旧不容忽视。企业和政府应共同努力，通过完善法律法规、加强数据保护、确保系统公平性和透明性、重视用户知情同意和心理健康保护等措施，积极应对这些风险，确保情感识别技术的安全、合法和道德应用。只有在有效管理和控制这些风险的前提下，情感识别技术才能真正发挥其积极作用，推动社会进步和人类福祉。 以上是今天的分享，感恩读者！ 参考文献： [1] Picard RW：Affective Computing. Cambridge: MIT Press, 1997. [2] 参见饶元、吴连伟、王一鸣等：《基于语义分析的情感计算技术研究进展》，软件学报，2018年第8期，第2397-2426页。 如果您身边有对新科技、数字经济感兴趣的朋友，欢迎转发给Ta。 获取详细资讯，请联络飒姐团队 【 sa.xiao@dentons.cn】 【 guangtong.gao@dentons.cn】 飒姐工作微信：【 xiaosalawyer】 飒姐工作电话：【 +86 171 8403 4530】

GPT-4o作为新一代人工智能大模型，展现了强大的实时交互和情绪理解能力，其出色的人性化特征使其成为全能AI助手。它在语音、图像理解和娱乐等领域有显著提升，将改变生活方式，但同时也带来隐私安全和哲学考量。面对这些，我们需要制定法规保护公众利益，进行伦理教育以确保AI服务于人而非取代人类。

OpenAI发布了先进的人工智能模型GPT-4o，支持ChatGPT产品并显著提升了其音频响应速度，使其能快速、情感丰富地与用户互动。升级后的ChatGPT语音模式能模仿人类情感，缩短延迟至人类水平，增强了用户体验。然而，这一进步也带来安全风险，OpenAI正致力于防范滥用，并面临如何保护隐私和防止数据滥用的新挑战。

文章主要由编辑负责，强调了编辑的专业角色和职责。通过深入分析和筛选信息，编辑确保内容准确、连贯，并符合出版标准，是文章质量和内容呈现的关键人物。

近年来中国学生面临高抑郁检出率，高中生达40%，初中生30%。针对传统心理服务不足，AI智能助手通过WorkBrain模型整合服务与教育，降低成本，扩大服务范围，提升品牌知名度。它能高效诊断、个性化关怀，并通过自然语言处理提供24/7在线咨询服务，结合知识管理及大模型能力，进行情绪识别和危机干预。同时，还能生成心理健康视频，促进心理健康教育的普及和咨询机构的传播。

本文探讨了人工智能在电影中的情感塑造和可能带来的变革，引发了对机器人感情真实性以及未来人机关系的想象。作者通过《神盾局特工》中智能机器人的剧情为例，展现了人工智能可能超越人类设定界限的焦虑。虽然目前认为让机器人产生感情不太可能，但作者认为弱人工时代向强人工时代的转变还需时日，且技术正不断进步，人工智能有可能成为助手甚至超能力进化的人类。文章最后提到一场科技盛宴将教人用数据感受人工智能，暗示了人工智能领域的学习与探索。

这篇文章讲述了主人公小袁与爱人陈颖的爱情故事，两人因工作相识，都在西藏边防服役。尽管普玛江塘乡与勒布沟相隔遥远，交通不便，但他们的爱情经受住考验。陈颖在所里负责外勤工作，独自承担重任，而小袁因为工作需要，频繁驾车去看望她。春节时的一次相聚尤其感人，让小袁对他们的未来充满期待。作者聂虹影的文字描绘了他们在西藏边疆坚守和相互支持的温馨画面。

Sayings： 一个强烈的感受是：爱情正在退出我的生活。 感受源于年末一个有点好笑的热词：“性缩力”。 “性缩力” = “性张力”的反义词。指的是爱情题材的影视剧里，角色之间毫无浪漫氛围，“磕不到”。空有爱的脚本，看不到爱的发生。 退回到现实生活中，我们对爱的想象和期待，本身就在变得萎缩、干瘪。 冲动让位于疲惫，勇气让位于现实考量。 爱的优先级，被一次又一次后置。 曾经我们不是这样的。特别是千禧年前，我们总是饶有兴致地谈论爱情。 故事里再多的鸡飞狗跳，也不过是爱情的佐料。 而如今，我们只会把爱当成厄运本身。小心翼翼，明哲保身，一不小心栽了跟头，必得恶狠狠地丢下一句： “谁动感情谁完蛋。” 爱情真的已经不再必要了吗？ 关于这个问题，我近期听到最有意思的一个观点来自导演冯小刚： “人不再需要爱情，是一句气话”。 这场对话发生在上周，在新世相 Live 和电影主创一起办了一场《非诚勿扰》重映见面会。导演冯小刚和影评人谭飞围坐下来，围绕“15 年后，我们的爱情变了没？”这一主题聊了聊。 所以爱情变了吗？或许于某些人而言，变了，变得失去让人心潮澎湃的力量。 但我依然希望你能听听他们的回答。比起笃定的答案，他们更多的是给出一种期盼： “我们总还是希望鼓励大家能够相信爱情。” 以下是对话现场的精华版文字。关于爱情，关于孤独，在这个年末，或许你会有新的答案。 各位晚上好，欢迎大家来到电影《非诚勿扰 1 》的重映礼，我是主持人张伟。现场很多人是 15 年前就看过这个电影的老观众，也有很多人是第一次看。很高兴 15 年后还有新的观众能够去跟《非诚勿扰》相逢。想问下冯导，和 15 年前相比，现在的人生状态有什么变化？这个变化肯定是有，我女儿今天也在现场，15 年前，她才 2 岁，现在她马上上大学了。那个时候我们没有微信，没有智能手机，现在甚至出现了 ChatGPT 这样的人工智能，这是一个物理时间上的变化。谭飞老师你呢？15 年前，我小孩 4 岁，现在他在上海交大读大二。今天他跟我发了一个段子说，他们有一条水道通向华东师大，他想报划船班，划过去，看能不能谈到女朋友。我说结果呢？他说结果保安不让我上岸。那在你们的观察和感受里，爱情这件事有发生变化吗？我觉得从爱情上来说，可能再往后 500 年也是一样的。人需要长大成人，恋爱，结婚，给自己找一个伴侣，相伴走过自己的人生， 15 年前是这样的，现在还是这样的。爱情有一些东西是恒定的。比如说吃醋，我觉得吃醋是爱情的本能，也是人类的本能，当然可能表达方式不一样，比如原来表白是用短信，或者在 KTV 唱歌定情。现在 KTV...

文章围绕"小伙子胖猫事件"展开讨论，指出社会上类似现象并非个例，反映出共性特征。事件中小伙子被描述为痴情并付出巨资，但作者从理性角度分析，认为感情专情、沉没成本和求偶受限是导致他悲剧的原因。作者强调恋爱中的平等交流和自我价值的重要性，并建议用消费而非转账来表达爱意，提倡先爱己再爱人的心态。最后，文章提醒无论男女在恋爱中都要保持自尊，不应轻易妥协。

这篇文章讨论了在英国利物浦进行的一场关于政府采购的会议，其中利用AI技术和24个摄像机对参会者面部表情进行监控和分析，以识别“幸福”和“投入”的情绪信号。Zenus公司提供的AI系统被称赞为高精度，其通过面部表情数据集训练能准确解读情感。尽管情感AI在市场调研中有广泛应用，但其潜在偏见和科学争议也引起关注，特别是工程师可能使用的有偏见数据会反映在算法中。情感AI的未来应用包括风险领域的监控、招聘以及汽车行业的技术升级，但也需要对隐私保护进行严格监管。总体来说，文章指出情感AI是一项有潜力的技术，但其发展和使用需谨慎。