AI情感识别不靠谱!美国专家:微软、谷歌的情感识别算法或存硬伤
AI情感助手

AI情感识别不靠谱!美国专家:微软、谷歌的情感识别算法或存硬伤

看点:“AI情感识别”没你想的那么神通,别被它误导。 导语:市面上很多AI情感识别工具可以识别到“皱眉”,但它们忘了皱眉≠愤怒。 智东西7月26日消息,近日,美国五名专家发表了一篇论文驳斥“根据表情识别情感”的方法论。这些专家耗时两年查阅1000多项研究,证明市面上的许多依托面部表情识别情感的算法缺乏充分的科学依据。 据称,这意味着包括微软、谷歌在内的许多公司的“情感识别算法”的原理可能并不严谨,如果被应用到招聘、医疗、安检等场景中,或对用户产生严重的误导作用。 ▲美国五名专家发表了一篇论文驳斥“根据表情识别情感”的方法论 热门情感识别软件硬伤:皱眉≠愤怒 随着人工智能(AI)被广泛运用于人类决策中,许多研发者表示已经可以打造能解决感情问题的AI工具。 微软、亚马逊及IBM等科技公司都纷纷推广自家的“情感识别算法”。这些产品大多是基于面部表情识别人的感受,例如,如果人们皱眉、撅嘴就意味着生气等。 “情感识别算法”可以被应用到多种场景,比如求职平台软件可以通过自动监测“愤怒”情绪的算法系统,为招聘企业过滤一些情商不达标的候选人。 “一些公司号称他们已经完全可以通过算法识别情感,但是数据表明并非如此。它们的算法可以识别到皱眉,但这不等于检测到愤怒情绪。”美国东北大学心理学教授Lisa Feldman Barrett说。Barrett等五位科学家耗时两年,将其研究成果发表在论文《再论人类情感表达:从人类面部表情辨别情绪的方法论面临的挑战》中。(论文原名为:《Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements》) ▲研究者使用面部动作编码系统(FACS)来描述成人的面部结构 耗时两年,查阅1000多项研究 该论文耗时两年,论文作者查阅了1000多项不同的研究。五位作者来自美国东北大学、格拉斯哥大学等机构,都是情感科学领域的不同理论阵营的杰出科学家。他们受美国心理科学委员会所托,仔细检查相关研究的证据。“起初,我们不确定是否能就数据达成共识,但我们最终做到了。”Barrett说。 研究表明,人类情绪的表达方式极其丰富复杂,很难靠简单的面部表情识别。 Barrett说:“数据表明,当人们生气时,在平均不到30%的时间里他们会皱眉。故皱眉不等于愤怒,皱眉只是‘愤怒’的众多表达方式之一。这意味着在超过平均70%的时间里,当人们生气了是不皱眉的。而且关键是,当他们不生气时,他们也会经常皱眉。” 因此,提供这类“情绪识别算法”的公司往往会误导消费者。 “你确定要以此为基础做决定吗?”Barrett说,“当你在法庭打官司,在医院等诊断或是在机场过安检,你愿意让那30%的概率来‘裁决’你吗?” 承认表情有用,也要考虑语言、情境 当然,按照社会约定俗称的习惯,人们会主动地使用表情来表达情绪。但是,当人们进行面对面互动时,并不会只从面部分析彼此的情绪,而是会通过着装、动作、语言等多种因素,联系个人经历、传统习俗、人际关系等多种背景信息。 该论文认为在情绪研究领域存在着各种各样的刻板印象。具体而言,它反驳的是“通过表情来获取情绪‘指纹’”的理论。这种理论源于20世纪60年代心理学家Paul Ekman的研究。 Barrett等学者表示,一些理论主张面部表情与情绪之间存在强相关性,这些理论的相关研究在方法上大多存在缺陷。例如,拿演员表情来说,演员常常被要求从有限的情绪中选择一种,如“愤怒”,进行表演,从而以某些方式把这种“愤怒”情感传达给观众。 ▲当人们被要求按照自我理解做表现同种情绪的表情时,这些表情获得的AI判别结果差异很大 “虽然演员能选择的抽象情绪种类有限,但是这些情绪转化为直观的表达,就很复杂了。”Barrett说,“当一个演员要表达愤怒时,他可能会哭、会大喊、会笑或只是静静地坐着,然后思考着复仇计划。你能接受演员因为用“皱眉”表达愤怒而获得奥斯卡奖吗?相信很少有人爱看这种表演。 要考虑更多变量和变量的优先级 然而,这些人类情绪的微妙之处很少被“情感识别工具”的缔造公司承认。例如,微软在其相关产品的宣传中称,其AI情绪识别软件可以“根据面部表情来识别八大情绪”。 对此,相关公司常说,他们的分析是基于更多的数据信息,而不仅仅是面部表情。那么问题在于,它们的算法是是否对这些数据进行加权,以及如何做到变量权重平衡的? 据称,“情感识别”市场规模已达到200亿美元。业内领先公司之一Affectiva表示,它正在尝试收集更多情绪表达变量。例如,它推出了一种工具,能够通过结合表情和语音来综合衡量驾驶员的情绪。也有其他研究人员正在研究通过步态识别和眼动追踪来识别情感。 Barrett相信,通过更丰富的变量分析,在未来我们将能够更准确地识别情感。“我绝对相信这是可能的。”她说,“但这并不意味着我们不该阻止目前误导性技术的扩散。” 结语:情感识别“不简单”,变量可靠性最关键 当前一些“情感识别算法”选择变量的标准不是变量的“可靠性”,而是这个变量能不能被衡量。“情感识别产品”所用的机器学习是一种过于擅长寻找联系的技术,这可能会导致各种肤浅、甚至虚假的分析。 比如一些机构利用机器学习算法,通过分析保姆在社交网站的发帖,来洞察其“态度”,进而分析保姆态度和公司财报记录、预测股票价格的关系等等。 如果这类误导性的“情绪识别工具”被普及开来,我们可能会慢慢接受它并让它影响我们的社会人格成长历程。社会学家库利(Charles Horton...
🔥揭秘!超能GPT,家庭主妇的新智慧导师?解决教育、情感与生活的神器?
AI情感助手

🔥揭秘!超能GPT,家庭主妇的新智慧导师?解决教育、情感与生活的神器?

本文介绍了一款名为"超能GPT"的人工智能工具,它成为现代家庭主妇理想的教育、情感和生活问题解决者。凭借其全面性和智能化,GPT为她们提供了自信与技巧,尤其在孩子教育、夫妻关系处理和日常生活中展现出了强大的实用性。作为全天候的伴侣,GPT还帮助她们发现自己思考上的盲点,并通过互动提升了自身能力。科技的力量让家庭主妇生活更便捷,充满可能性。
如何用超能GPT破解情侣摄影矛盾?智能助手教你有效沟通与理解!
AI情感助手

如何用超能GPT破解情侣摄影矛盾?智能助手教你有效沟通与理解!

本文以一对摄影情侣因作品评价争议引发争吵为例,展示了AI智能助手——超能GPT在解决情感问题中的作用。当矛盾发生时,超能GPT通过提醒双方意图、建议沟通方式和提供平衡目标的指导,帮助他们理解并改善沟通,增进理解和和谐关系。这个故事强调了倾听、理解和尊重在情感交流中的关键价值。
女性新欢AI,婚恋观念大转变?恋爱软件背后的复杂社会现象
AI情感助手

女性新欢AI,婚恋观念大转变?恋爱软件背后的复杂社会现象

AI恋爱软件作为年轻女性的情感新出口,已成时尚。它满足了部分女性对理想伴侣的理想化需求,可能加剧不婚意愿,反映了婚恋观念和社会压力下的变迁。中国用户更倾向于使用,比例显著高于男性,背后是文化、性别期待和现实考量的多重因素。这一现象提醒我们关注科技与人文平衡,以及现代婚恋观的演变。
宝马背后的悲欢:“拜金女”马诺的14年风雨人生
AI情感助手

宝马背后的悲欢:“拜金女”马诺的14年风雨人生

江苏卫视《非诚勿扰》节目开播初期轰动一时,其中马诺因“宝马哭”言论成名,却饱受拜金女标签困扰。历经闪婚、家暴和财产损失,她与前夫纠纷再次引发网络关注,但马诺尝试澄清并坚持自我。尽管经历了困苦,她仍以自己的方式继续在娱乐圈边缘挣扎,试图通过各种途径维持生计。
“孤独病”大流行,融合AI的陪伴机器人能否治愈心中“孤独感”?
AI情感助手

“孤独病”大流行,融合AI的陪伴机器人能否治愈心中“孤独感”?

援引美国福克斯新闻网消息,美国公共卫生局近期发布的报告指出,半数美国人遭遇过孤独问题,初步统计覆盖人群约1.66亿,调查对象中,46%有时或经常感觉孤单,47%觉得被遗忘,54%经常或有时觉得没人了解自己,43%感觉自己的人际关系没有意义,43%觉得与他人隔绝。 数据援引:美國醫務總監默西发表的报告《Our Epidemic of Loneliness and Isolation》 而近日美国公共卫生局就孤独这一紧迫问题发布了一份咨询意见,这份意见强调了社交对个人和社会健康的关键作用,如今社交和孤独都是根据人与人之间的接触来定义的,但是,这一定义是否限制了我们对非人类同伴潜在有利的理解? 在本文当中,我们需要讨论一个问题,是否有可能将目前的社交模型扩展到包括人与机器人的互动。与机器人和人工智能对象的社交能否为人类带来更多的好处?而潜在的危险又是什么? 当下,我们正处于陪伴型机器人和人工智能这门新科学的前沿,它为减轻孤独感和提供健康支持提供了一条潜在的途径。人们可以与机器人交谈,拥抱机器人,从机器人那里获得物理帮助、提醒甚至精神慰藉,还可以通过机器人与其他人建立联系。 比如2022年,社交机器人ElliQ与用户的互动次数超过了30万次,其中约40%与简单的陪伴有关,包括用户与它一起喝了3000杯咖啡和茶。 社交机器人ElliQ 事实证明,宠物型和仿人型陪伴机器人都能有效减少孤独感,并通过直接将用户与他人联系起来或通过提醒社交约会来提供陪伴。一项关于老年人社交机器人的系统性研究发现,机器人对老年人的参与、互动和幸福感都有积极影响,还能减少压力和孤独感。 此外陪伴型机器人还可以帮助老年人在家中保持健康和活跃,而不是搬到养老院。随着技术的进步,特别是人工智能的快速发展,与机器人的社交联系变得越来越重要。认知人工智能技术(精心设计、积极主动、基于目标和情境的对话)可以产生共鸣并提高积极性。 机器人可以被设计成主动发起对话、记忆和跟进过去的对话,并结合已知的心理学技术来激励慢性病患者改变行为和坚持治疗。生成式人工智能大语言模型(LLMs)(如 ChatGPT 和 GenAug)可以实现更少脚本、更主动的对话,但与此同时也有一定的局限性,那就是许多LLM无法记住过去的对话,也无法区分重要信息和无关信息。 认知和生成人工智能技术可以为社交机器人提供 “大脑”,使其成为理想的伴侣。ChatGPT 的早期实验表明,它可以用来创建与老年人相关的对话行为,机器学习技术可用于理解输入语言的情感,并以同情的方式做出回应,满足人类的情感需求。人工智能驱动的语音合成技术的进步意味着机器人可以像老朋友甚至去世的亲人一样说话。 Luka公司Replika聊天机器人 例如,微软的 VALL-E 只需 3 秒钟的录音就能复制一个说话者,此外许多科技公司正在开发用于陪伴的聊天机器人,如 Luka公司推出的Replika 以及Inflection AI公司推出的Pi。 使用人工智能增强型机器人作为陪伴并非没有争议,人们对欺骗、隐私、伤害和责任等问题表示担忧。同时人们对人工智能的偏见、不准确的信息也相当谨慎。 人工智能研究先驱Geoffrey Hinton最近与AAAI人工智能促进协会现任和前任领导人一起,对潜在的危险发出了警告,他们担心的主要问题是,普通人无法辨别人工智能生成的内容中哪些是真实的,以及未来计算机运行自己编写的代码的可能性。程序员必须确保我们能够在未来控制这些人工智能系统。 尽管存在这些顾虑,但大多数公众在体验机器人伴侣后并不担心伦理问题——最大的顾虑是使用的公平性。此外新的证据表明,医疗专业人员对机器人陪伴服务持积极态度。 2022年12月,经过验证的医生开放社交网络平台Sermo,对来自欧洲和美国的 307 名医生进行了调查。有69%的人同意机器人可以为患有社交孤独的老年人提供陪伴,增强人与人之间互动的影响力,只有16%的人不同意,15%的人表示不确定。70%的受访者同意陪伴机器人可以改善孤独患者的心理健康。受访者认为,主要的局限性在于机器人还不能完全复制人类陪伴的复杂性,因此它们不是“真正的陪伴”。 针对核验医生的开放平台Sermo 这些使用人工智能的公众、学者、医生们所关注的问题,使得我们在使用陪伴型机器人时需要小心谨慎地降低风险。因此,让潜在用户和人工智能专家参与这些对话至关重要。 但值得注意的是,陪伴型机器人不能替代人类护理、接触或抚摸,相反,它们旨在减少孤独感,提高整体健康水平。因此访问的公平性、数据隐私、问责机制、可信内容和系统可控性必须成为优先选项。 这些担忧也提出了一个问题:什么是 “真正的友谊”?对社交机器人的研究实际上可能有助于回答这个问题,因为人们会不自觉地倾向于将机器人拟人化,并赋予它们感情。促进人与人之间社交的因素也可能促进机器人与机器人之间的社交,而机器人为研究这些因素提供了系统的方法。研究已经揭示了机器人的微笑、幽默、自我表达、眼神交流和身体前倾对改善社交关系会产生有利的影响。 可以说,机器人可以适应社交的多因素模型,其好处可能包括积极的互动,避免人类的不耐烦和评判。通过减少孤独感,机器人可以增加安全感,从而减轻压力并改善健康。从归属感来说,频繁而积极互动可以满足人类对联系的基本需求,未来的研究需要对机器人进行评估。结果测量应反映社交模型的组成部分以及健康状况。初步研究表明,机器人在减轻压力和治疗生理指标方面具有良好效果。 机器人社交概念的多因素模型 这里值得注意的是,我们并非建议机器人同伴取代人类同伴,但机器人可以在许多孤独的人所需要的与社会目前提供的之间架起一座桥梁。寻找解决孤独感的创新方法必须成为当务之急。未来的研究不仅可以显示陪伴机器人的优势和风险,还有助于人们重新理解什么是陪伴。 该领域的研究具有重要意义。在陪伴型机器人中使用人工智能可以提高机器人的交流技能和社交能力,增加用户的联系感。在美国,一半以上的成年人都伴有孤独感,这是导致过早死亡和发病的一个独立风险因素,每年给雇主造成...
你好?世界怎么了?
AI情感助手

你好?世界怎么了?

The article begins by greeting the reader and does not delve into specific content. It appears to be a simple introductory statement without further elaboration.