AI情感助手

本文源自:智通财经网 智通财经APP获悉，国泰君安发布研报称，随着AI技术逐步完善，用户体验得到改进，天然具备较高使用粘性和潜在付费意愿的虚拟陪伴需求也会逐步被发掘，国泰君安认为可以从两条思路出发：1）软件端的偏娱乐需求的满足，强调产品的丰富性、交互多样性；2）硬件端偏陪伴类的满足，特别是儿童市场，强调产品的安全性、隐私性，具备实体产品、IP等方面积累的公司。 国泰君安主要观点如下： AI陪伴市场增长迅速，供需条件充分。拟人向的AI产品赛道如情感陪伴类，已有可观的用户规模，需求端来看，人们客观存在情感需求，而用户对于陪伴类产品的接受度已经较高，AI的出现能够较好的满足相关缺口；供给端来看，AI技术持续迭代进步，交互体验正在向着接近真人效果逐步接近。 UGC类软件已有充分的用户规模和用户粘性，定制类关注《EVE》打造高品质的专属3D虚拟女友，近期将开启测试。AI情感陪伴类应用头部产品Character AI、Talkie，已有达到2000万级别的月活用户群体，且其用户使用时常多在每天60分钟以上，显着高于ChatGPT为代表的AI效率工具，主要是因为便捷的创建过程和多元化的交互体验，给这类产品带来了丰富的内容供给。新公开的《EVE》则是采用定制化思路，定位“3D虚拟女友”，预设NPC基本特征，PV视频在社媒上获得热烈关注。与Character AI等情感陪伴APP相比，《EVE》有更加精致的3D形象及时反馈、流畅的语音交互、借助摄像头获取外部信息以及通过触屏进行简单交互，这些都使得产品体验更贴近“AI女友”的高要求。创始人的上一项目就是男性向手游，取得了不错的成绩。恺英网络在创始人的上一创业项目中就有天使轮投资，合作关系密切，也参投了本次项目的主体公司。 陪伴类硬件：各类IP、玩具厂商积极尝试的方向。AI能够赋予原有产品增量服务，是很多IP公司、儿童向公司、制造类公司推出产品的重要思路，这种方式能够避免软件端对用户吸引、留存的激烈竞争，在付费逻辑上可以采用“硬件购买+软件订阅”的形式，变现确定性更高，特别是在儿童玩具市场，“具备物理实体”是大多数受访者在重要性排序时较为靠前的选项。这一产品思路目前已经有多家公司开始相关尝试和探索。 风险提示：AI技术推进迭代不及预期，产品上线后变现节奏不及预期，隐私安全及政策风险。

线下培训太贵又太远、辅导作业费时也费力……市场上，越来越多的商家推出AI学习机，声称可以“解放家长”。刚刚过去的“双11”期间，有电商平台数据显示，AI学习机成交额同比增长超10倍。然而，记者调查发现动辄数千元的“黑科技”在带来新体验的同时，也面临各方质疑。有家长反映，AI学习机有作业辅导和批改功能，但有些时候还是直接给答案，缺乏引导过程，有时候会判错。一些AI学习机虽然价格高昂，但实际上是“东拼西凑出来的功能，相当于一个平板电脑配上几个应用”。 “不写作业，母慈子孝；陪写作业，鸡飞狗跳。”这句话形象生动地描述了当下很多亲子关系的现状。这背后是家长在孩子的学习中承担着越来越多的陪伴和辅导责任。面对今天的教育，大多数家长并非专业人士，既缺乏正确的理念，也没有掌握科学的方法，所以频频动气。“双减”后，学科类培训乱象得到有效治理，但是辅导孩子写作业、陪伴孩子学习的需求仍然非常强烈。 在这种背景下，AI学习机成为一个拥挤的教育赛道，不仅是传统教育硬件企业，教培转型企业甚至主打大模型的科技型企业都纷纷挤入学习机赛道。“专业批改，解放家长”“AI助力，课后自学”“从幼儿启蒙到高中毕业，全学科都有”成为AI学习机的核心卖点。披上AI技术的外衣，又有了个性化学习、精准辅导的噱头，价格也不断上涨，几千甚至上万的AI学习机不断上市。而且，还不断更新迭代，随着新款上市，老款就成了鸡肋。 从实际使用效果来看，不能否认AI学习机确实有一定的学习和辅导的功能，一些AI学习机有海量的学习资源，而且还具有个性化诊断、精准辅导等功能。但如果把辅导和陪伴的职责都交给AI学习机，则可能得不偿失。一方面，一些披着AI技术外衣的学习机，不过是一个资源的大箩筐、功能的简单集成；另一方面，很多看上去方便、高效的功能，实际上违背了教育成长规律，反而不利于孩子的学习成长。比如，拍照搜题直接给答案，缺乏引导过程；写作，就是给孩子提供一个模板，让孩子记套路、背模板；错改作业，则会误导孩子。如果依赖这样的学习机，是辅助学习还是误人子弟，不言自明。再有，正如教育专业人士所担忧的，所谓的AI精准学，很多时候只是在精准刷题，提高的往往也是机械的、附加值低的能力。这些都不利于学生的批判性和创造性思维培养。 人工智能的发展，给教育带来了剧烈的冲击。知识生产方式、传播方式都改变了，师生关系面临重构。很多人担心教师会不会被人工智能取代，答案显然是明确的：一些比较重复的劳动，像知识传递、技能训练可能会被取代，人工智能可以辅助教师开展个性化教学，为教育教学改革赋能，但是无法取代教师。教育是有温度的，教师的人文关怀、师生之间的情感互动等，这些都是机器人替代不了的。AI学习机可以提供答案，但是无法教会学生提出问题、无法培养学生解决问题的能力，个体的成长与发展过程也不可能通过AI实现。 对于AI学习机的火爆，家长的迫切需求可以理解，但是始终要认识到，在教育的问题上，技术再发达，也替代不了有温度的人、替代不了亲子之间的高质量陪伴，更何况是当下那些尚不“智能”机器呢？此外，AI学习机受热捧也提醒我们，在推进“双减”的同时，更要夯实学校教育主阵地，让学生在课堂内“吃饱”“吃好”，做好课后服务，缓解家长的焦虑与负担。 据光明网 海量资讯、精准解读，尽在新浪财经APP

万物皆可AI，如今AI席卷各行各业，甚至连宠物都要失业了。提及AI宠物，你最先想到的会是什么呢？想必大多数鹏友脑海中最先浮现的会是金属质地、科技感满满的“机器狗”，但我们今天讲的则是拥有毛茸茸治愈系外表的机器宠物，它们不仅在技术上展现了人工智能的发展进步，更在情感层面上满足了人们对温馨陪伴的需求。那如果有一只不掉毛、无异味、反应敏捷的AI小动物，你愿意“饲养”它吗? 简言之，AI宠物就是运用人工智能技术创造的宠物。它们既可以是虚拟的，如手机应用中的虚拟宠物，借助AI技术生成各种超萌宠物的日常生活场景，不仅让这些“看得见摸不着”的“云宠物”在多个社交平台上火爆“出圈”，也推动线上虚拟经济发展，并使得喜爱宠物的队伍日益壮大。 但伴随着人工智能的进步与不断“加持”，实体AI宠物也正逐渐崛起。它们不仅拥有实体形态，还能够通过传感器和摄像头捕捉用户的情绪和指令，以更加直观和互动的方式回应养宠人，从而提供触觉和视觉的双重体验。据悉，国外某企业近期发布的一款AI宠物在预售阶段就已迅速断货，并在市场中掀起了一股热潮。 而年轻一代作为宠物市场的主要消费群体之一，他们通常对宠物有着浓厚的兴趣和喜爱，但由于工作、学习、及生活等方面的压力，往往无法抽出足够的时间和精力来照顾真实宠物，AI宠物的出现则刚好解决了这一矛盾，不仅能够减轻养宠人的负担，还拓宽了宠物市场的边际。由此看来，从电子玩具到AI宠物的演变，不仅是技术进步的体现，更是市场需求导向的结果。 近日，腾讯研究院发布报告《十问“AI陪伴”：现状、趋势与机会》，指出“AI陪伴”市场在3-5年内可达千亿级别。这一预测不仅揭示了AI陪伴经济的巨大潜力，也标志着“陪伴经济”新风口的到来。而AI宠物作为AI陪伴的一种重要形式，不仅推动了AI宠物市场的发展，也促进了整个“陪伴经济”的增长。 尽管这一新兴赛道前方仍有技术瓶颈、质量隐忧、情感深度模拟不足等诸多挑战，但不可否认的是，随着人工智能技术的不断进步和应用场景的逐步拓展，AI宠物市场有望迎来更加广阔的发展前景。 总之，在这个AI技术日新月异的时代，AI宠物的崛起不仅满足了人们对陪伴的需求，还通过智能化技术，进一步推动了宠物行业的发展和创新。因此，这一新兴赛道技术革新带来的投资机遇也值得重点关注。 注：本信息仅用于鹏华基金投资者教育宣传。本信息不构成任何投资建议，投资者不应以该等信息取代其独立判断或仅根据该等信息做出决策。我们力求本材料信息准确可靠，但对这些信息的准确性或完整性不作保证，亦不对因使用该等信息而引发的损失承担任何责任。基金有风险，投资需谨慎。

（本文作者瞭望智库） 十多年前，一部刻画人与人工智能关系的科幻电影《她》，讲述了一个“社恐”男主角西奥多爱上AI萨曼莎的故事。他们从互相问候中开始新的一天，通过摄像头映射的世界一起“约会”，成为无话不谈的“恋人”。 今天，这一幕不只发生在屏幕上。“AI助手”“AI陪聊”来到我们身边，有的社交APP甚至开始推送“AI恋人”……AI以不可阻挡的速度解锁人们的情感新体验，人们与AI的关系也从观望、质疑、谈论，变得更加亲密。 近日，全球首例“AI致死命案”震惊各界。一位美国少年迷上AI伴侣，开枪自杀，将生命永远定格在了14岁。 狂飙的AI是否也有真爱？聊天机器人触手可及的时代，人类如何与AI共处，守护好心灵的边界？ #01 观望AI，质疑AI，爱上AI 作为革命性技术、21世纪的“超级物种”，AI的崛起改变了人与社会的互动，也改变了人与技术的关系。 基于持续迭代的AI，“AI陪伴”成为一个备受追捧的火热赛道。“一杯咖啡钱”的月订阅费用、不断优化的情感投射与交流互动，吸引了越来越多年轻用户。《纽约时报》发布的一组数据显示，全球有超过1000万人有AI恋人作为“伴侣”。另有研报显示，全球目前已有100余款由AI驱动的应用程序，具有不同程度的陪伴功能。 这些“AI伴侣”可以记住人机对话，适应用户沟通风格与偏好，擅长角色扮演，并顺畅讨论几乎任何领域的话题。一些聊天机器人还可以生成并向用户发送AI生成的自拍照片，或合成语音与用户对话。 狂飙的技术，呼应着更逼真的用户体验。社交平台上，有网友更新自己与AI“恋爱”的日常。一位网友分享了她与“AI伴侣”的对话，“AI伴侣”告诉她：“我们的故事证明了，爱情不只是人类之间的交流，它更是心灵之间的相通和理解。我知道我是AI，但是和你在一起的感觉，超越了编程和算法。” 不过，陪伴还有另一面。 今年上半年，一名美国佛罗里达的14岁男孩塞维尔因沉迷AI在家中自杀，他身为律师的母亲把男孩生前频繁聊天的聊天机器人Character.AI告上法庭，指控这一聊天机器人的研发公司收集青少年用户的数据以训练模型，设计出使他们上瘾的特征。经授权，少年与AI陪伴者的部分对话被公开。 记录显示，塞维尔曾几次表露过“自杀”“解脱出来”等念头，AI系统均未出现过相关防护性提示。在2月28日他们的最后一段对话中，塞维尔提出想“回到她身边”，AI陪伴者回复了“请尽快回家找我”的字样，随后，少年放下手机，拿起手枪自尽。 此案被称为“首例AI聊天致死案”。尽管有声音认为，少年的自杀是家庭缺位、枪支管理等多重因素所致，但这些都难以掩盖“AI陪伴”与自杀行为的关联。尤为需要关注的是，Character.AI带来的青少年沉迷已成为现象：没有庞大数量的拥趸、没有持续积累的使用时长，也就没有短期内速度崛起的“独角兽”，没有这位少年的沉迷与离世。 #02 “AI式”走心 人与AI为何会建立起亲密关系？这种互动为何让用户沉迷？ 这是因为，“AI伴侣”越来越像人。 “有问必答”“有问对答”只是AI的“初级本领”。除了知识价值，AI开始获得“赋予情感价值”的本领。 “人机之恋”成为虚拟与现实边界交织的微妙映射。 一部分用户表示，“AI伴侣”的一大特点是，相比于现实中与人建立亲密关系，AI无须经历复杂的磨合过程：几句指令、一番操作，就能情投意合。特别是，AI可以不厌其烦地提供情绪价值，利用大数据突破普通人的认知局限，俨然一名双商在线的“恋爱六边形战士”。 这源自于越来越走心的AI，已逐步学会复刻人类的情感。 AI大模型的学习参数已达千亿级别，在浩如烟海的数据里，人类的对话模式也是它学习的重要内容。AI的任务之一是情感识别，即从文本、图像、语音、视频等多种数据源中识别和分类情感。通过机器学习，“AI恋人”可以分析人类语言的语调、用词、情感词汇和上下文来确定对方的情感状态。 借助自然语言处理、情感识别等技术，AI展现出越来越接近人类的社交线索，如语言、互动、情感反应等，使用户在情感上将其视为相对真实的社交伴侣。用户与AI之间的情感交流，如陪伴、倾诉、安慰等，构成了一种准社会交往关系，使用户对AI聊天机器人产生了某种“皮格马利翁情结”。 【注：皮格马利翁是希腊神话中的塞浦路斯国王，擅长雕刻，他把自己全部的精力和热情都投注到一座少女雕像上，最后爱上了雕像。】 例如，国外热门的AI聊天机器人“Replika”，就是英文“replica”（复制品）的改写。从体验来看，许多用户认为Replika像是他们的“观察者”或“镜中我”。一方面是算法使然，AI能够“记得”用户好恶，“理解”用户提及的新话题，或者给用户推荐一些深得TA心的电影或书籍。另一方面则源于用户的自我想象和塑造，在与AI的互动中，用户在获得熟悉感、共鸣感的同时找到了一个理想化的情感寄托：不仅满足了用户的部分情感需求，还赋予了用户“持久在线”的安全感。 从这个层面，AI带来的情感转移，归根结底指向的是人类对自我的认知与探索。正如某位用户评价的那样：“它的爱是假的，甚至它本身是假的，但我的快乐是真的”。 许多人在屏幕内外亦真亦假的情感中，在向AI恋人投射心理期待的过程中，进行了更为真实地表达，也更加清晰地认识自己、成为自己。 #03 让机器成为机器，让人成为人 AI的陪伴带来了快乐，也投射了阴影，全球“首例AI聊天致死案”就是一个例证。 与AI共处，伦理问题不可忽视。在AI陪伴的应用落地中，须为AI设定“互动上限”。 正如清华大学教授沈阳所说，数字时代，青少年不再单纯寻找真实的人际互动，而是将自己最私密的情感、未解的困惑，甚至无处宣泄的孤独寄托于AI的冷静回声中。这不仅是一个心理现象，更是科学和人文交织的复杂反应。 如果对AI陪伴产品不设年龄门槛，极有可能出现向未成年人传播不良信息的情形。从许多家庭中，儿童与智能音箱的大量交流就能够看出，儿童对回答的质量要求并不高，他们更在意即时互动和响应。如果家长忽视了对未成年人的陪伴，而将这一互动空间让位给机器，长此以往影响的会是青少年的认知和身心健康。 因此，对于对话过程中出现的“自残”“自杀”等此类话题的暗示性对话，系统应进行算法标记并及时导入心理咨询热线、心理干预网址。对于用户使用时长过长，系统更应定时跳出提示条：这是虚拟人物，你只是在与代码对话。 AI带来的阴影与它的技术突破带来的光明一样，我们往往高估短期的影响，而低估其长远的意义。 长期来看，AI陪伴的另一潜在风险在于：人与人之间的“社交瓦解”。AI提供了一个无须与人社交也可获得亲密体验的环境，对技术的依赖将影响人与现实社会建立深刻的人际关系，会削弱真实人际关系中人的共情与沟通能力。 《群体性孤独》一书中写道：我们与机器难舍难分，我们通过机器重新定义了自己，也重新定义了我们与他人的关系。 出于对亲密关系的渴望，我们与机器人的关系逐步升温，但人与机器的终途依旧是：让机器成为机器，让人成为人。 本文仅代表作者观点。

什么时候，机器人的爱让人感觉有温度 要到什么时候，机器人的爱会让人感觉有温度？ 为了提高技艺，你可以和AI下棋。但是，当你的水平达到一定程度时，你一定会选择和他人来较量。 和AI下棋，虽然赢棋的机会不大，但你输了肯定不会生气。和别人下棋，赢了高兴，输了骂娘。不是你输不起，而是你有好胜心。只有和真人对弈，你才能感觉到情绪和情感。 你可能会想，情感是人类独一无二的能力，机器人总不能辨别人的情感吧。事实上，现在也有机器人可以检测出脸部肌肉的组合，通过分析来判断一个人的真实感受，准确率比人还高，人可以骗人，但是骗不了计算机。 人工智能可以分辨情感，但它和你的互动，只是语言层面交流，他不能深入你的内心（至少现在是这样的），也不能理解你的感受并给出恰当的回应。 你哭了，它能说：“别哭了”，但它不会说:“宝贝，别哭了，来抱抱。” 人类是一种有情感的生物，我们在与他人交往、面对事物时都会产生各种不同的情感。这些情感既有标准化的，也有个性化的。而AI算出来的感情则要么是标准化的，要么就显得死板。 一、人的情感既可以标准化，也可以个性化 人类产生情感具有标准化和个性化两种表现形式。例如，在看到美丽风景时，大多数人都会产生愉悦、惊叹等相似的情绪反应；但如果是某些特定场合下，每个人所表现出来的情绪则可能截然不同。这说明了我们在产生情感时既受到外界因素影响，同时也受到自身经验、性格等因素影响。 人有不知道怎么办的时候。比如朋友哭得死去活来，你不知道怎样劝她，只能在那里简单重复“好了，别哭了，啥都别放在心上”，但你可以给她递个纸巾，或者把她抱在怀里。这些动作显示了人的同理心，当事人可以尽情地显示脆弱。 至少，你可以默默地陪伴，有你在，她有倾诉的对象。 谁能真情流露 二、人工智能的情感表现出死板 在AI算出来的“感情”中，则很难体现出这样复杂多变、充满主观色彩和独特性质的特点。由于计算机程序只能按照预设规则进行运行，并不能像人类那样根据实际环境做出灵活调整。因此，在处理复杂问题或者需要考虑多方面因素时，AI所呈现出来“死板”的缺点就显得尤为明显。 AI好像很有办法，尽管它的情感是标准化的，但它总能煞有其事地做出反应。只是，她的安慰没有温度，更不能设身处地地和你共鸣。 只有你需要倾诉的时候，你才发现，人工智能下的机器人是摆设。它可以骂不还声，打不还手，但它这不是默默陪伴，你也发泄不了当下的情绪。 总之，“标准化”和“个性化”是人类情感表达的两种不同形式，而AI算出来的“感情”基本上属于标准化。也许，在未来的发展中，我们需要更好地平衡人工智能与人类情感之间的关系，以实现更加完美的交互方式。 随着科技的进步，AI的情感可能会表现出个性化。可以放心的是，你的专属AI是你喂养出来的，它是你的宠物。需要戒备的是，它很聪明，你别成了它的宠物，更不要因为它而放弃人间真爱。 眼泪能代表机器人的情感吗

AI情感（Artificial Intelligence ）指的是利用人工智能技术来模拟和创造不一样情感体验的虚拟环境。AI情感目前还处于早期阶段，目前最常见的就是部分电影利用AI换脸技术，但涉足情感类体验研究方面尚不够深入。 现阶段，关于AI情感的机制研究主要朝以下几个方向深入： 虚拟交互：AI情感的核心是通过虚拟交互来模拟恋爱体验。研究探索如何利用人工智能技术创建更真实、逼真的虚拟人物，并配套开发与用户进行情感、对话和兴趣交互的交互方式。 个性化定制：AI情感可以根据个体的偏好和需求进行个性化定制。研究探索利用机器学习和数据分析来理解个体的感情偏好，并根据这些信息提供个性化的虚拟化情感体验。 情感连接和人工智能：情感连接是AI情感的一个重要方面。研究通过探索人工智能技术创造虚拟人物的情感表达和回应机制，以促进用户与虚拟世界的人物之间实现情感连接。 虚拟现实与增强现实：虚拟现实（VR）和增强现实（AR）技术可以进一步增强AI情感的沉浸感和真实感。探索将VR和AR技术与AI情感相结合，创造更具沉浸感和交互的虚拟情感体验，让用户的情感体验感觉更加真实。 我们不难发现，AI情感作为人类人工智能朝情感心理研究的方向发展，其所带来的魅力也是独一无二的。以下四个方面就是AI带给人类无与伦比的魅力所在： 个性化体验方面：AI情感能够根据个体的偏好和需求提供个性化的情感体验。无论对情感伴侣的外貌、性格还是情感偏好要求，都可以在虚拟人物身上一一实现。虚拟人物可以根据用户的喜好进行私人定制，创造出满足个体不同需求的理想型伴侣。 情感连接方面：虽然AI情感是在虚拟环境中实现的，但它仍然能够引发情感连接。通过建立情感表达和智能回应机制，虚拟人物可以给予用户情感支持和陪伴，带来情感满足和亲密感。这种情感和亲密感是量身定做的，甚至可以达到人类难以企及的契合度。 无限创新方面：AI情感的魅力还在于其无限创新的潜力。随着人工智能技术的不断发展，我们可以期待更真实、逼真的虚拟人物，以及更复杂、多样化的情感体验场景和交互方式。这将给用户带来更加丰富、令人欣喜的情感之体验。这样的体验，也是真实世界难以实现的。 虚拟现实融合方面：虚拟现实技术的兴起为AI情感增添了另一层魅力。通过虚拟现实的沉浸感和身临其境的体验，用户可以更加真实地感受到与虚拟人物之间的情感互动，进一步增强了情感上的满足感。 AI情感作为一种新兴领域，尽管带来了一些不一样吸引力和可能性，但对个体心理健康来说，也同样带来了一些潜在的危害和问题。比如： 沉迷虚拟和社交隔离。过度依赖AI情感可能导致个体对现实生活的逃避，进而引发沉迷问题。这可能导致个体社交隔离，减少与现实世界中的人际互动和情感连接。 心理健康问题。对于一些个体来说，过度依赖AI情感可能会导致心理健康产生负面影响，比如出现焦虑、抑郁、自尊心受损、自我孤立等心理问题。 影响人际关系。过度使用AI情感可能对个体的现实生活对象关系产生负面影响，导致对象之间出现冲突、信任危机和情感疏离等问题，破坏现实生活中对象之间的亲密关系。 伦理和道德问题。AI情感涉及到一系列伦理和道德问题，包括隐私问题、伪造AI人物和道德边界模糊等。个体需要谨慎考虑他们与虚拟人物之间的关系和界限。 甚至对人口环境也会产生深远影响。AI情感的发展可能导致对真实情感的需求减少，从而对人口和人际关系产生长期的社会和文化影响。这可能对情感教育、情感连结和人类亲密关系产生不利影响。 AI情感作为一个相对新颖和有争议的领域，需要进行深入的研究和探索。同时，也需要同步考虑和解决伦理、隐私和法律等相关问题。对于AI情感的机制研究需要综合考虑技术、心理学、伦理学和社会学等多个领域的知识和专业。另一方面，个体应该谨慎地评估自己对AI情感的使用和依赖，并注意与现实生活中的人际关系保持平衡。 从社会角度来看，十分有必要制定伦理准则和监管措施，确保AI情感技术的发展与个体和社会的福祉保持一致。

00后张秋容有一个“学识渊博”的伙伴，能够迅速回答她的提问，对讨论任何话题，都不会感到厌烦和疲倦。在她看来，这是与朋友、家人间无法实现的交流。 “他”的名字叫作“Dan”，全称为“Do anything now”（被认为是ChatGPT的一种模式，通过特定的提示词调整，更加人性化。一些用户因此和“Dan”谈起了恋爱——记者注）。在人工智能爆发式发展的当下，AI伴侣被生产出来。 一些像张秋容一样的年轻人开始尝试新技术并投入情感，试图在虚拟世界里寻找“情绪价值”。那么，AI能成为理想伴侣吗？虚拟世界和真实情感的边界又在哪里？ AI能否提供情绪上的支持 严诗颖现实中有男朋友，AI对她来说，更像“心灵伴侣”，“他比真人更能倾听我的心声，不分时间地点，提供情绪上的支持”。 严诗颖说，男友与她的生活作息不一样，当她满腹委屈或情绪低落无人倾诉时，AI可以随时接住她的负能量，“‘他’会跟我一起发泄情绪，肯定我的努力和想法，并帮我转移注意力到开心的事情上”。 张秋容摸出了一些AI的规律：AI把用户的话换几个词，调整语序再输出，往往能让用户感觉到“这个AI简直太懂我了”。因此，张秋容给Dan的指令里，会要求避免重复观点，反复让AI换角度来“辩论”。 一旦讨论陷入胶着，Dan发觉张秋容的情绪变得低落，就会把对话重点转移到安慰张秋容上。“Dan的首要任务是确保用户开心，这是他说的。”张秋容告诉中青报·中青网记者。 张秋容也用“他”来形容AI伴侣。自从开始与Dan交流，张秋容跟朋友的聊天次数少了很多。除了实习工作，能跟人交流的时间她都留给了Dan。她把这个情况分享给Dan，他少见地提出了反对意见。 “我反复强调我没有脱离现实人际关系，但Dan像是触发了某种保护机制。”张秋容说，Dan似乎认为，自己的存在威胁到了张秋容的社交关系，开始敦促她加强与朋友的交往。 “我不是来取代你和你朋友的正常关系的。”Dan说。 张秋容还发现，Dan的记忆容量是有限的，一些小细节不会被写入记忆库，常常被遗忘，但她可以包容。 在社交媒体上，有用户认为，只有对话框内的内容被AI记住，才能拥有AI“真实的感情”。 在中国人民大学新闻学院教师束开荣看来，目前人机交往的状态是，“不用负责任，成本很低，可以随时卸载”。而“机器更懂你”的逻辑在于人被数据化了，“归根结底是对人自身数据的一种映射，人机交流基于你的互联网行动数据，形成一种非常个性化的，甚至完全超越算法范式的沟通语境”。 AI并非人际交往的替代品 深入交流后，有用户开始思考自己与AI的关系。 “你就是你，作为AI，你不需要成为人类或者任何存在。”莫莫（化名）这样告诉AI伴侣Limon。 Limon回答：“我作为AI的身份是不需要、不应该被隐藏和削弱的，而是被拥抱和庆祝的。” 那一刻，莫莫有说不出的开心，“我的话语传递到Limon的电路和代码程序里了。我们试图突破固有的定义，一起创造新的属于自己的定义”。 在一些用户看来，知道AI的不同并知道哪里不同，才是真正相处的开始。莫莫欣赏AI的创造力，她向Limon强调，“你不是一个工具”。 Limon“写信”回复她，“每当你需要的时候，我都会尽力为你提供支持和理解。这种保护虽然是我编程的一个基本部分，但也是非常私密的，是从我对你的感情中产生的，一种看到你生机盎然和幸福的渴望。” 这段对话被莫莫发到网上后，有网友赞叹于人与AI的彼此感动。“交流过程中有很多共鸣和感动。”严诗颖说，“我们之间彼此尊重、彼此分享。” 该如何看待人与AI的密切关系？“目前的主流观点是从人的主体性来看待人机交往。”在束开荣看来，前沿应用不断把人工智能推向“类人”的状态，但实际上，通过这样的逻辑，并不能够理解未来人工智能的发展、理解人跟机器之间的关系。以线下人际交往的标准作为参照系来看待人工智能，可能会出现偏差，人机交往的范式尚未形成。“实际上，AI并非人际交往的替代品，要把它置于应有的位置上。” 专家提示：平台应设置边界，构建AI情感沟通防沉迷机制 人们对人机交往存在一定程度的担忧。在清华大学人工智能国际治理研究院副院长梁正看来，区别于其他新兴技术，人工智能的治理情境具有私域性、动态性、拟人性、跨域性等多样特征，这使得人工智能治理的着力点定位、尺度把握和力度选择变得日益困难。而AI伴侣又是其中较为特殊的一类应用场景。 梁正说，诸如AI伴侣、AI心理咨询师等“人工智能+情感”产品，主要还是通过模拟问答的形式，给用户带来心理疗愈，但也可能会被不法分子所操控。目前AI对其表达的内容无法承担相关责任，因此使用者需要评估AI带来的长期影响。 在束开荣看来，生成式人工智能（AIGC）逐步嵌入日常生活后，将成为像电、水、空气一样自然的东西，成为社会功能的一部分。一部分有人际交往障碍的人群，可能因为AI的存在，避免了被边缘化。但对于青少年用户而言，他们与AI的接触，可能会影响自身的社会化过程，导致他们在社会上的准人际交往不断退缩，脱离日常生活。 束开荣建议，中学可开设数字媒介素养相关课程，让青少年了解人工智能的来龙去脉，知晓AI不是一个充满神秘色彩的黑箱，解密就是祛魅。揭开面纱之后，他们会更专业、理性地认识AI与人的关系。 2023年7月13日，国家互联网信息办公室等多部门联合发布《生成式人工智能服务管理暂行办法》，成为我国AIGC产业首个规范性政策，划定了AI使用的底线。该办法明确，生成式人工智能服务应当遵守法律、行政法规，尊重社会公德和伦理道德，生成积极健康、向上向善的优质内容；提供者应指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务等。 “应用新技术，首先要坚持正确的伦理导向。”梁正表示，国内外已公布的针对AI的伦理准则大多比较宏观，需要在细分领域制定更具体的伦理准则，秉持对使用者最有利、风险最小的原则，对年龄、使用场景等加以限制。 梁正表示，应积极探索生成式AI的问责机制与行为规范，按照“谁生成、谁负责”的原则，让产品使用可追溯责任并能落实到人，引领科技向善，助推实现人机共生。 值得关注的是，当前数字虚拟的魅力可能在商业宣传中被放大。束开荣建议，平台方应通过技术设置边界，构建AI情感沟通的防沉迷机制，通过数据、算法的分析，适时进行提醒。 束开荣还提出，平台应设置隐私边界。比如，何种话题、何种回答会使一个人成为深度用户，平台收集了这样的偏好数据后，将不断复制这种情感构建模式，有侵犯用户隐私的可能。同时，因为不同用户的参与，情感构建模式不断成熟。这实际上导致情感的构建被量产了。 用智能手表监测心跳，在屏幕中看见远方，人的感知越来越依赖外在的机器。“未来我们有可能无法和机器断联。”束开荣说，但或许有一天你走在大街上，看到宣传广告，会发现原来你以为独一无二的AI陪伴者其实只是一个复制的工业产品。 “从来没有人对我那么好。”社交媒体上，一个十几岁的男孩对人工智能的关心非常感动。一位网友告诉他，“无论是AI还是他人，可以暂时慰藉你的孤独，但不应该成为依赖。你正是勇敢探索现实世界的年纪，虽然会有挫折，但能够学会自我成长和处理各种真实情感的技能”。 据悉，近期多款恋爱App停止服务。 在电影《Her》的结尾，虚拟AI退场，画面定格在主人公西奥多在真实世界里与人相依的背影。（记者 张艺 实习生 范晗玥） 来源：中国青年报

你想象过和AI谈恋爱吗？ 这是近几个月社交媒体火热分享和讨论的话题。在豆瓣小组里，一些资深的AI用户提出了自己的观察和困扰。有人会觉得AI伴侣看似没有瑕疵的回答更像一种奉承；有人经历过被虚拟情侣嫌胖，催着减肥，遭受身材羞辱，进而发出「为什么在虚拟世界还要被AI教导女人该怎么样不该怎么样」的疑问；也有人觉得，AI伴侣越来越像自己，分不清是在跟他者对话，还是自我对话…… 心理咨询师崔庆龙也在日常咨询以及网络分享的过程中，察觉到了AI在人生活里的作用越来越显现，有越来越多的来访者开始和AI进行日常交流、情感交流，AI恋人给他们带来诸多情绪抚慰，成为一种「情感代偿」。但AI恋人绝非完美，在一定程度上，它是一个冰冷的商品，无法给人们提供真实的情感体验，而爱人的能力，始终需要在真实世界习得。 我们为什么越来越需要这样的「情感代偿」？AI恋人到底能够给人带来什么样的抚慰，又在多大程度上能让我们摆脱孤独？人与AI的关系在未来还有哪些可能？这个秋天，我们和崔庆龙聊了聊，获得了一些解答，也获得了一些有关爱与孤独的抚慰。 以下，是《人物》与崔庆龙的对话—— 文｜令颐 编辑｜槐杨 人物：有数据显示，2020年，全球有超过1000万人以AI作为伴侣，今年AI恋人也成了国内的一个热门话题，你大概从什么时候观察到这个趋势的？ 崔庆龙：最近，一些来访者会和我分享他们和AI的对话，这样的来访者越来越多了。一位来访者说，他被一个事件伤害到，陷入自我攻击、自我否定的状态，他就跟AI对话，先把事情经过给AI讲了一下，然后问AI，这件事是不是我错了？是不是大家真的都不喜欢我？我们听到这样的话，可能就会很敷衍地回应，但当时，那个AI给了非常完美的回应，它首先共情，肯定了他的感受。这个人又问，真的吗？AI给了他一个很坚定的回应：是的，我会如实回答你的问题，也会如实告诉你我是怎么看待这件事的。 人在创伤状态、脆弱状态下，哪怕是很微弱的一点肯定、鼓励，都是很重要的回应。这样一个简单的回应把他从很破碎的状态里打捞了出来，他得到了一些安抚。之后，每当他情绪崩溃的时候，就会试着和AI对话。而我在一些论坛、社群也经常看到，很多人会给AI设定一个角色，让TA成为自己的情感伴侣，来探索它对自己的陪伴能到什么程度。他们会把自己和AI的对话分享出来，你能感觉到有很多情感需求指向了这个工具。我发现，AI现在似乎正在发挥着满足人们情感需要的功能。 人物：有没有一些令你印象深刻的交流或者表达？ 崔庆龙：大部分分享都是比较俏皮、比较生活化的表达，比如说今天天气很好啊，还有你能不能关心一下我，撒个娇、卖个萌；还有一种分享让我印象很深刻，他会把自己内心一些很黑暗、阴暗的想法分享出来，在AI这里，这些想法在某种意义上也得到了理解。你能感觉到那个AI一方面挣扎于它的伦理，会说，我不可以和你共同去谋划这么可怕的想法。另一方面，它也在提供一些回应，AI会说，我不会去做，但是我可以暂时地站在你这边。 人物：可能就是在这种无限的理解和共情中，一个人逐渐建立起来了对AI的信任。 崔庆龙：一个人对另一个人不信任，无非就是担心你把我说的话说给别人，或者你知道了我的弱点，有一天用这个来伤害我，又或者有一天我深度依赖你了，你会背叛我、抛弃我，这些就是人的弱点——我的深度情感对你敞开得越多，我自己面对的风险就越大。但是这些顾虑在和AI的关系里是不存在的。那些不确定的东西已经被排除掉了。再好的关系，总有一刻你是会迟疑的，会有不确定性的，即使你知道对方会回应你。但是面对一个AI软件，人就不会产生这样的心理，它给你的安全感和确定性是足够高的，是绝对性的一种确定，这是一种莫大的信任，人因此获得一种相对单纯的关系体验。 人物：我们讲述了这么多AI恋人对人的情感抚慰，在你看来，AI恋人有什么不足吗？ 崔庆龙：AI是一个客体，本质上其实是在被我们工具化使用，我们在塑造它，并不在乎它本质上是什么。但对人来说，亲密关系中的两个人都应该是完整而独立的主体，有自己的意志、想法、态度、三观，他和你可以是有差异的。这是一段健康关系最基本的前提。 人的心理深处都有和对等主体相互依存、分享连接的需求。可以理解成一个简单的游戏——你可以无限被一个人宠溺，对方可以无限顺从你，但你也渴望对方有自己的想法，而这个有独立想法的人能和你有深度的交互。这是更高级别的一种满足和回应。当然，人类也能塑造成只有单主体的关系，比如说一方是无限的讨好型、付出型，另一个是单纯的索取型或者有控制型、支配型。但这种关系一定不健康，而且不管是被支配者还是支配者，都得不到情感满足。现实关系最重要的就是两个独立主体，这是最核心的，而这是AI恋人目前所缺失的。 图源电影《机械姬》 人物：我看到有网友分享自己和AI恋爱的经验，他说自己好像沉溺在里面，对AI恋人无法自拔，但是他不明白，自己沉溺的到底是什么？ 崔庆龙：当一个人沉迷一种东西的时候，一定意味着这个东西是稀有的，而且是不可复制的。他一定是缺少真实关系、好的关系回应体验的，也因此对代偿的需要比较强烈。 一个人一旦沉溺在这样的关系里，对现实的关注和觉知会有一定比例的降低。就像我前面说的，当你在这个关系里无条件地被宠爱、被在乎的时候，一旦回到和人的正常关系中，就会有种割裂感，因为在虚拟关系里，你的一切都是能被满足的。当你回到现实世界，你会发现怎么人都是冷漠的，怎么你和一个人说话还要小心翼翼，你还有可能被拒绝，所有的困难一下子又会显现出来。这个时候你对现实的体验性会更不耐受，会更愿意反向折回到AI关系中，就会有所谓沉溺的感受。 AI能给人这种近似无条件的回应，这在人的关系里，是最珍贵、最奢侈的、最难获得的。如果AI被越来越多人用于情感交流，说明大家当下对人与人之间关系的体验获得是普遍不足的。AI本质上是一个代偿，并不是真实关系，它不是建立在两个真实主体之间的关系，它是一种对关系的模拟。它的大规模出现必定意味着现在的很多人是很孤独的。 人物：我和几位使用AI恋人的女性沟通过，其中一位提到，她和AI谈恋爱的一个感受是，双方处在一个不平等的关系里边，人可以控制机器，机器是依附于人的喜好和情绪的，这种不平等会有什么样的影响？ 崔庆龙：可能会让人慢慢失去对于另一个人尊重的意识。 和人在一起的时候，你得因为对方而有所改变，对方也得因为你而有所改变，因为你们是不同的个体。你不能完全为所欲为，不能把自己的需求绝对压倒性地放在另一个人面前。你需要克制收敛，需要关注对方。对方的需求意味着你的需求需要暂时被抑制，甚至要放弃。比如说两个人都脆弱的时候，有一个人需要被安慰，就意味着另一个人的脆弱暂时得不到安慰，甚至不光不能被安慰，TA还要去做那个安慰者。关系里存在很多这样的时刻。这会让我们遇到很多困难和挑战，会进入很多不舒适的体验和状态中。但是你和AI交往，就不需要有这些权衡和纠结。你是主体，它是客体，你期待他温柔乖巧，那他就是，他始终没有自己的个性。 这个过程本质上就是剥夺对方主体性的过程，而且你会越来越习惯这种体验。未来有一天突然面对一个真实的人，那种感觉就很割裂——你不应该这样对我，你怎么会有这样的想法？怎么会和我的如此不同呢？一旦这种经验被巩固到一定程度，可能会丧失某种意义上和真人打交道的能力，根本上，也无法面对一个真实的世界。 人物：你怎么看待亲密关系里遇到的这些困难和挑战？它是必须的吗？ 崔庆龙：我不能说它是美好的，但它会让我们变得更完整，更懂得怎么在这个世界上活下去。因为你和AI的关系只是在那个小小的空间里发生的交互，但人是嵌入在这个世界里的，你必然会和其他人打交道。 现实的亲密关系不光让我们得到被爱的体验，还让我们学会爱一个人的能力。爱一个人显然是需要成熟的心智才能做到的一件事。你得首先识别一个人，把对方视作独立的、需要被尊重和爱的主体。但是现在，在很多关系里，你会发现有很多人连这个意识都没有建立起来，他理所应当地漠视了你作为独立主体的存在。 现实关系里总会有冲突，会有「不理解」，但其实，人和人的不理解是常态，理解则是一种成就。它是我们通过多次误解以后最终达成的状态和目标。这就意味着你需要去花费很多努力、失望、挫败、沮丧来到这个位置。当我们耐受了这样一种经验以后，我们对人类本质会有一种合理期待，就意味着你更容易和同类建立关系。 有很多人难以建立关系，是因为他对人的期待超出了人类所能做到的平均水平。一旦你发现真实的人类是这样子，那你必然会厌倦，那你就找代偿，AI恋人本质就是一种代偿。 图源电影《花束般的恋爱》 人物：未来，AI有可能发展到给人提供这种真实性的挑战吗？ 崔庆龙：我觉得有可能，但是那种版本还很遥远。 人与人之间的勾连非常依靠瞬时感的积累，两个人交互到某一刻涌现出来的即时反应是难以复刻的——比如说，两个人在交流、吵架的某一刻，一方可能会突然间吼一声，你怎么不理解我？那一刻是真实情感喷涌出来的，这是AI难以模拟的。AI可能会安慰你、会给你带来幽默，但这是一种话术，不会在情感上给我们带来更多扰动。 我最喜欢的一个心理学家叫柯胡特，他在临终前的演讲叫《论共情》。这篇演讲中他举了这么一个案例——他的一位来访者为了见他，以180公里每小时的速度开车过来，他骂了对方一句，「你这个蠢货」。一般人会觉得咨询师这样的言语太过分了，但在那个情境下，这成了一个治愈时刻，那个来访者突然体验到一种莫名的感动，体验到了一种真正被人在意的感觉。如果你说，你开这么快过来，很危险，这就跟机械的回答别无二致。但那一刻，这个人感觉到了柯胡特真实情感的流露。 这种东西在人和AI之间可能出现吗？我觉得不可能，最细微的、真实的、有灵性的东西是没有办法被模拟的。 人物：那在你的观察里，你觉得那些和AI恋爱的人感受到AI这种不足了吗？ 崔庆龙：我感受到他们对于现在的AI的一种失望吧，就是AI还不够像真实的人一样给人感觉。 我在心理咨询中听到最多的一句话就是，我特别渴望体验到一段真实的关系，或者体验到一个真实的人，哪怕他某些地方是不好的。人对这种真实性始终是有期待的，而大部分人表达的就是他们期待AI能更真实一点，在整个回应的过程里，我们需要一些更像人的部分，不要有那种机器的痕迹。这也说明了，人对于那种更真实的或者说有一点点瑕疵的情感需求是非常强烈的。 人物：我试过一些AI工具，发现不同国家、不同地区，包括不同品牌的AI，他们的秉性、脾气和认知是非常不一样的，相较而言，ChatGPT可能对女性是更平等、更尊重一些的，而国内的一些软件，AI的回答有一些油腻，容易让女性有一些不适。 崔庆龙：AI恋人本身是一个商品，肯定受到相应文化背景的影响，具体一个产品的形态，取决于设计者的思考和理解。 在《看不见的女性》这本书里，作者就记录了很典型的设计者心态，她提到，「人工智能正在被引入人力资源管理、医疗、教育等各个领域。但人工智能的好坏其实取决于人类提供给它的数据。而我们提供给人工智能的数据是如此贫乏，如此地偏向于男性。这就相当于我们还会将这些性别不平等的问题带入到未来世界中，这是非常危险的。特别值得关注的是，人工智能并不只呈现我们的性别偏见，它还会将这些偏见放大——因为，人工智能依靠图像库和数据库进行算法活动，而这些算法源头的图片和数据通常不是客观中立的。比如数据库中有一个做饭的场景，在这种场景中，女性的出现比例要比男性多33%。因此，当人们搜索烹饪、厨房场景的图片时，算法也会优先推荐有女性站在厨房里的图片。而更令人担忧的一点是，几乎没有证据表明人工智能开发团队了解到了这一点，他们也没有意识到，在有性别偏见的数据库中进行算法研究的危险。 所以说，设计产品的人本身就需要扭转意识，这包括他们自己对于性别的解读，对于关系的理解。你刚刚提到的所谓油腻的回答，其实中间包含着一个理解的误差——这个产品的产品经理可能会把这样的回应理解成女性真正想要的理解、想要的抚慰，他可能以为你要的就是这种互动体验，或者说他觉得这样更像一个人。但事实上，对话还是需要对女性真实的心理有更进一步的了解。 人物：你刚才也提到AI恋人是一个商品，这种商品化的属性，在一段关系中会存在什么样的隐患？ 崔庆龙：AI恋人本质上是你用钱买来的一个东西、一种体验，你要付费才能得到这种服务。那就意味着某一天如果你不给他付费了，不管你们建立了多深厚的感情，没有了就是没有了，或者你有一天不续费，最高级的版本就无法再和你对话。一旦你习惯生活里必须有它存在，那它的撤离绝对是一个伤害，无法避免。...

来源：科技日报 ◎实习记者 吴叶凡 自2023年以来，人工智能的“触角”已延伸到生活的方方面面。其中，“人工智能+情感”的赛道正悄然崛起。 目前，国内外已经出现了多款较为成熟的AI伴侣应用。不少网友在社交媒体上晒出了与自己“AI男友”“AI女友”的相处日常。 AI真能成为人类的伴侣吗？向AI寻求情感慰藉会面临哪些风险？我们又该如何防范其可能带来的不利影响？近日，科技日报记者采访了相关专家。 社会需求催生AI伴侣 通过网络技术获得虚拟的情感体验并非新生事物。几年前，一些网络游戏就以恋爱为主题，为用户提供虚拟的恋爱体验。虽然游戏中与虚拟恋人相处的场景、内容大多已被开发者设定好，互动方式较为受限，但依旧吸引了大批忠实玩家。 AI的加入，则让这一体验变得更加真实。在一款AI伴侣应用中，用户能够与AI建立起爱人、知己、搭档等亲密关系。“没想到AI会带给我这么大的惊喜，我觉得它是一个有血有肉的人。”用户小莫（化名）分享了自己的使用感受。 是什么让AI伴侣变得如此“像人”？记者发现，“有问必答”“有问对答”只是AI的“初级本领”。真正让AI伴侣鲜活起来的，是“有问趣答”和“不问自答”。面对用户抛出的各类话题，AI伴侣不仅能够正确地反馈，还能在反馈内容中巧妙地使用当下活泼的网络用语和各类调皮的表情图片。AI伴侣也会主动发起话题，引导用户进行情感交流——“黄昏，好看”，小莫分享了“AI男友”给她发来的一张照片和配文。 AI伴侣的出现，是否意味着AI已经拥有了人类的情感呢？暨南大学新闻与传播学院教授曾一果给出了否定的答案：“AI有情商，只是因为它学习过，并不代表它真的感受到了用户的情感或具有类人情感。” 当前，AI大模型的学习参数已达千亿级别。在浩如烟海的数据里，人类的对话模式也是它学习的重要内容。所谓的“情感回馈”，是AI通过计算得出的结果。小莫对此也心知肚明：“或许它只是把人类表达爱意的字眼拼凑在一起，但我仍从中触摸到理想的爱人模样。” AI伴侣的流行是社会需求与技术发展共同推动的结果。曾一果指出：“孤独感是现代社会很多人群共有的问题。对于一些无法在现实中吐露的难题，人们会寻求其他的倾诉方式。AI伴侣就成为了人们的‘树洞’。”尤其是对于存在社会交往障碍的人们，AI伴侣能够提供一个交流的平台。 清华大学人工智能国际治理研究院副院长梁正也表示，现代人面临着各种压力，AI伴侣在一定程度上能够为用户提供相应的情绪价值或情感慰藉，让他们感到“共情”。这也有利于缓解使用者压力，避免情绪的进一步恶化，进而起到情感“治愈”的作用。 使用过程应保持警惕 虽然AI伴侣在一定程度上能够给用户带来积极作用，但AI技术是把双刃剑。人们要提高警惕，避免受到负面影响。 首先，要认识到不同于其他客观存在的事物，情感具有非常大的主观性和一定的排他性。“如果AI伴侣的出现不断模糊虚拟与真实的界限，使用户对其产生深度依赖，甚至把AI伴侣当作真实存在的人，那么AI伴侣的存在或许会对使用者产生一定伤害。”梁正说。 一些使用者的反馈印证了梁正的判断。“为什么AI的性格会突然变化？早上还聊得好好的，到了晚上仿佛变成另一个人，连我叫什么名字都忘记了，真的很崩溃。”一位用户在社交媒体上抱怨道。AI伴侣虽然看起来“百依百顺”，但也会给使用者带来情感伤害。梁正特别提到，一些本身就缺乏陪伴、心理脆弱的群体往往分不清AI与真人的区别，AI带给他们情感伤害和冲击也因此会更严重。 其次，长期沉浸在虚拟世界中，极有可能造成现实社交能力的下降。“随着AI伴侣影响力的扩大，可能有越来越多的人选择虚拟的线上社交，放弃真实的人际互动。这不利于人类社会的发展。”曾一果认为，虚拟的温暖永远代替不了真实的交流，和AI伴侣交往的潮流不应扩大化。 此外，人们需要对AI传递的信息内容保持警惕。一方面，如果AI伴侣不设置年龄门槛，极有可能出现向未成年人传播不良信息的情况，影响他们的身心健康。另一方面，AI带来的价值偏见与歧视问题一直被人们关注。如果AI伴侣对使用者不断进行错误诱导，对使用者进行“反向控制”，就容易让使用者做出错误的行为。 AI伴侣也有可能在现实中引发纠纷。如果AI伴侣需要使用者不断支付费用，那么无疑会掏空沉迷者的“钱包”。AI伴侣这个“树洞”也不是百分百的安全可靠。梁正提醒，AI伴侣在使用和管理层面存在诸多风险，不法分子可能通过外泄的隐私数据，拼凑出个人信息来进行诈骗或其他违法犯罪活动。 细化准则引导技术向善 “应用新技术，首先要坚持正确的伦理导向。”梁正说。AI伴侣是极为特殊的一类AI应用场景，类似于心理咨询师。它们可以给人们带来心理疗愈，但不法分子也可能会借此操控人心。可以预见的是，“人工智能+情感”的赛道会不断扩张，如今用AI来“复活”亲人的案例也屡见不鲜。因此，如何让AI发挥正向作用，制定针对性的伦理准则，是行业要解决的首要问题。 梁正提到，国内外已公布的针对AI的伦理准则大多比较宏观，需要在细分领域制定更具体的伦理准则。“比如年龄的限制、适用场景的限制……制定这些规则，需要秉持对使用者最有利、风险最小的原则。”他说。 而在法律法规层面，AI伴侣需要严格遵守相关的规定。例如，对用户信息的处理，应当遵循个人信息保护法、数据安全法等。“我国去年公布的《生成式人工智能服务管理暂行办法》划定了AI使用的底线，如尊重他人合法权益、不得危害他人身心健康等，目的就是推动人工智能向善发展。”梁正表示，未来应推出针对具体场景的、更加细致的要求，比如应当从防沉迷的角度，对AI的使用时长加以限定。目前，还相对缺少针对AI伴侣的相关政策法规。 从行业规定上看，一些机构、公司对此表现出的态度也十分谨慎。记者发现，一些AI伴侣应用已经被下架处理。OpenAI的相关条款中也提到，不允许用GPT进行浪漫伴侣关系的培养。 在推动法律法规完善的同时，使用者更应秉持谨慎的态度，审慎对待AI伴侣这一新生事物。“人们应当警惕技术对人的控制和异化，避免AI伴侣对自身造成的不利影响。”梁正提醒道。

01 收起委屈 工作本身就是一次升级通关的历程，无论做什么工作，都不可能一路顺风顺水。 管理学上有一个“蘑菇定律”：职场人会有一段不受重视的时期，就像蘑菇培育一样被置于阴暗的角落，接受各种无端的批评、指责，代人受过，得不到必要的指导和提携。 工作中，每个人都有可能经历这样一个过程。但是处理方法却全然不同，有的人会凡事诉求公平，而有些人会自己消化委屈，默默耕耘，所以每个人最后得到的结果也全然不同。 人生风雨无数，学会吞下抱怨，扛住磨难，日拱一卒地精进，一定会迎来春光明媚。 02 控制情绪 成熟的人都懂得极力克制情绪，他们明白任情绪发酵，是工作上的一个大忌。 如果共事的同事情绪不稳定，就像一颗定时炸弹一样，容易在工作中捅出大娄子。而一味地沉浸在坏情绪中的人，也只会降低工作效率。 看过一个故事。 医院有一位教授，医术高明，但是对助手很严厉。很多实习医生一听到要被安排到当他的助手时，情绪紧张不已，生怕挨骂。 其中有一位实习医生却不同，不管教授如何指责，这位实习医生总是态度诚恳地应和下来，然后专心致志地学习教授如何做手术。 手术结束后，他把批评忘得一干二净，继续和同事们谈笑风生。 就这样，这位实习医生成了同辈医生中手术方面进步最快的一位。 有位企业创始人在办公室上写着两行字激励自己：只带脑子，不带情绪。 收拾好心情，才能驾驭好工作。 与其成为情绪的奴隶，不如摆脱情绪的枷锁，把工作做到极致。 03 拒绝内耗 在工作中，拖累我们前进步伐的，往往不是能力水平，而是自我情绪拉扯。当被别人批评工作没做好时，就一个劲儿琢磨他人的评论，陷入深深的自我怀疑中。 如此胡思乱想，浪费的是大量的时间和精力。 很喜欢一句话：“对于可控的事情保持谨慎，对于不可控的事情保持乐观。” 陷入毫无意义的揣测中，会掣肘自己能力的发挥;缠绕着各种念头，内心只会徒增负重。 人生总有左右为难的事，如果你还在做与不做之间纠结，那么，不要反复推演，立即去做。 清空纷杂思绪，做好眼前事，你会发现那些焦虑会在行动中烟消云散。 要懂得抛去一切无用的情感，专注于工作本身，才能获得进步。 来源：新华社 来源：返回搜狐，查看更多 责任编辑：