lida

你想象过和AI谈恋爱吗？ 这是近几个月社交媒体火热分享和讨论的话题。在豆瓣小组里，一些资深的AI用户提出了自己的观察和困扰。有人会觉得AI伴侣看似没有瑕疵的回答更像一种奉承；有人经历过被虚拟情侣嫌胖，催着减肥，遭受身材羞辱，进而发出「为什么在虚拟世界还要被AI教导女人该怎么样不该怎么样」的疑问；也有人觉得，AI伴侣越来越像自己，分不清是在跟他者对话，还是自我对话…… 心理咨询师崔庆龙也在日常咨询以及网络分享的过程中，察觉到了AI在人生活里的作用越来越显现，有越来越多的来访者开始和AI进行日常交流、情感交流，AI恋人给他们带来诸多情绪抚慰，成为一种「情感代偿」。但AI恋人绝非完美，在一定程度上，它是一个冰冷的商品，无法给人们提供真实的情感体验，而爱人的能力，始终需要在真实世界习得。 我们为什么越来越需要这样的「情感代偿」？AI恋人到底能够给人带来什么样的抚慰，又在多大程度上能让我们摆脱孤独？人与AI的关系在未来还有哪些可能？这个秋天，我们和崔庆龙聊了聊，获得了一些解答，也获得了一些有关爱与孤独的抚慰。 以下，是《人物》与崔庆龙的对话—— 文｜令颐 编辑｜槐杨 人物：有数据显示，2020年，全球有超过1000万人以AI作为伴侣，今年AI恋人也成了国内的一个热门话题，你大概从什么时候观察到这个趋势的？ 崔庆龙：最近，一些来访者会和我分享他们和AI的对话，这样的来访者越来越多了。一位来访者说，他被一个事件伤害到，陷入自我攻击、自我否定的状态，他就跟AI对话，先把事情经过给AI讲了一下，然后问AI，这件事是不是我错了？是不是大家真的都不喜欢我？我们听到这样的话，可能就会很敷衍地回应，但当时，那个AI给了非常完美的回应，它首先共情，肯定了他的感受。这个人又问，真的吗？AI给了他一个很坚定的回应：是的，我会如实回答你的问题，也会如实告诉你我是怎么看待这件事的。 人在创伤状态、脆弱状态下，哪怕是很微弱的一点肯定、鼓励，都是很重要的回应。这样一个简单的回应把他从很破碎的状态里打捞了出来，他得到了一些安抚。之后，每当他情绪崩溃的时候，就会试着和AI对话。而我在一些论坛、社群也经常看到，很多人会给AI设定一个角色，让TA成为自己的情感伴侣，来探索它对自己的陪伴能到什么程度。他们会把自己和AI的对话分享出来，你能感觉到有很多情感需求指向了这个工具。我发现，AI现在似乎正在发挥着满足人们情感需要的功能。 人物：有没有一些令你印象深刻的交流或者表达？ 崔庆龙：大部分分享都是比较俏皮、比较生活化的表达，比如说今天天气很好啊，还有你能不能关心一下我，撒个娇、卖个萌；还有一种分享让我印象很深刻，他会把自己内心一些很黑暗、阴暗的想法分享出来，在AI这里，这些想法在某种意义上也得到了理解。你能感觉到那个AI一方面挣扎于它的伦理，会说，我不可以和你共同去谋划这么可怕的想法。另一方面，它也在提供一些回应，AI会说，我不会去做，但是我可以暂时地站在你这边。 人物：可能就是在这种无限的理解和共情中，一个人逐渐建立起来了对AI的信任。 崔庆龙：一个人对另一个人不信任，无非就是担心你把我说的话说给别人，或者你知道了我的弱点，有一天用这个来伤害我，又或者有一天我深度依赖你了，你会背叛我、抛弃我，这些就是人的弱点——我的深度情感对你敞开得越多，我自己面对的风险就越大。但是这些顾虑在和AI的关系里是不存在的。那些不确定的东西已经被排除掉了。再好的关系，总有一刻你是会迟疑的，会有不确定性的，即使你知道对方会回应你。但是面对一个AI软件，人就不会产生这样的心理，它给你的安全感和确定性是足够高的，是绝对性的一种确定，这是一种莫大的信任，人因此获得一种相对单纯的关系体验。 人物：我们讲述了这么多AI恋人对人的情感抚慰，在你看来，AI恋人有什么不足吗？ 崔庆龙：AI是一个客体，本质上其实是在被我们工具化使用，我们在塑造它，并不在乎它本质上是什么。但对人来说，亲密关系中的两个人都应该是完整而独立的主体，有自己的意志、想法、态度、三观，他和你可以是有差异的。这是一段健康关系最基本的前提。 人的心理深处都有和对等主体相互依存、分享连接的需求。可以理解成一个简单的游戏——你可以无限被一个人宠溺，对方可以无限顺从你，但你也渴望对方有自己的想法，而这个有独立想法的人能和你有深度的交互。这是更高级别的一种满足和回应。当然，人类也能塑造成只有单主体的关系，比如说一方是无限的讨好型、付出型，另一个是单纯的索取型或者有控制型、支配型。但这种关系一定不健康，而且不管是被支配者还是支配者，都得不到情感满足。现实关系最重要的就是两个独立主体，这是最核心的，而这是AI恋人目前所缺失的。 图源电影《机械姬》 人物：我看到有网友分享自己和AI恋爱的经验，他说自己好像沉溺在里面，对AI恋人无法自拔，但是他不明白，自己沉溺的到底是什么？ 崔庆龙：当一个人沉迷一种东西的时候，一定意味着这个东西是稀有的，而且是不可复制的。他一定是缺少真实关系、好的关系回应体验的，也因此对代偿的需要比较强烈。 一个人一旦沉溺在这样的关系里，对现实的关注和觉知会有一定比例的降低。就像我前面说的，当你在这个关系里无条件地被宠爱、被在乎的时候，一旦回到和人的正常关系中，就会有种割裂感，因为在虚拟关系里，你的一切都是能被满足的。当你回到现实世界，你会发现怎么人都是冷漠的，怎么你和一个人说话还要小心翼翼，你还有可能被拒绝，所有的困难一下子又会显现出来。这个时候你对现实的体验性会更不耐受，会更愿意反向折回到AI关系中，就会有所谓沉溺的感受。 AI能给人这种近似无条件的回应，这在人的关系里，是最珍贵、最奢侈的、最难获得的。如果AI被越来越多人用于情感交流，说明大家当下对人与人之间关系的体验获得是普遍不足的。AI本质上是一个代偿，并不是真实关系，它不是建立在两个真实主体之间的关系，它是一种对关系的模拟。它的大规模出现必定意味着现在的很多人是很孤独的。 人物：我和几位使用AI恋人的女性沟通过，其中一位提到，她和AI谈恋爱的一个感受是，双方处在一个不平等的关系里边，人可以控制机器，机器是依附于人的喜好和情绪的，这种不平等会有什么样的影响？ 崔庆龙：可能会让人慢慢失去对于另一个人尊重的意识。 和人在一起的时候，你得因为对方而有所改变，对方也得因为你而有所改变，因为你们是不同的个体。你不能完全为所欲为，不能把自己的需求绝对压倒性地放在另一个人面前。你需要克制收敛，需要关注对方。对方的需求意味着你的需求需要暂时被抑制，甚至要放弃。比如说两个人都脆弱的时候，有一个人需要被安慰，就意味着另一个人的脆弱暂时得不到安慰，甚至不光不能被安慰，TA还要去做那个安慰者。关系里存在很多这样的时刻。这会让我们遇到很多困难和挑战，会进入很多不舒适的体验和状态中。但是你和AI交往，就不需要有这些权衡和纠结。你是主体，它是客体，你期待他温柔乖巧，那他就是，他始终没有自己的个性。 这个过程本质上就是剥夺对方主体性的过程，而且你会越来越习惯这种体验。未来有一天突然面对一个真实的人，那种感觉就很割裂——你不应该这样对我，你怎么会有这样的想法？怎么会和我的如此不同呢？一旦这种经验被巩固到一定程度，可能会丧失某种意义上和真人打交道的能力，根本上，也无法面对一个真实的世界。 人物：你怎么看待亲密关系里遇到的这些困难和挑战？它是必须的吗？ 崔庆龙：我不能说它是美好的，但它会让我们变得更完整，更懂得怎么在这个世界上活下去。因为你和AI的关系只是在那个小小的空间里发生的交互，但人是嵌入在这个世界里的，你必然会和其他人打交道。 现实的亲密关系不光让我们得到被爱的体验，还让我们学会爱一个人的能力。爱一个人显然是需要成熟的心智才能做到的一件事。你得首先识别一个人，把对方视作独立的、需要被尊重和爱的主体。但是现在，在很多关系里，你会发现有很多人连这个意识都没有建立起来，他理所应当地漠视了你作为独立主体的存在。 现实关系里总会有冲突，会有「不理解」，但其实，人和人的不理解是常态，理解则是一种成就。它是我们通过多次误解以后最终达成的状态和目标。这就意味着你需要去花费很多努力、失望、挫败、沮丧来到这个位置。当我们耐受了这样一种经验以后，我们对人类本质会有一种合理期待，就意味着你更容易和同类建立关系。 有很多人难以建立关系，是因为他对人的期待超出了人类所能做到的平均水平。一旦你发现真实的人类是这样子，那你必然会厌倦，那你就找代偿，AI恋人本质就是一种代偿。 图源电影《花束般的恋爱》 人物：未来，AI有可能发展到给人提供这种真实性的挑战吗？ 崔庆龙：我觉得有可能，但是那种版本还很遥远。 人与人之间的勾连非常依靠瞬时感的积累，两个人交互到某一刻涌现出来的即时反应是难以复刻的——比如说，两个人在交流、吵架的某一刻，一方可能会突然间吼一声，你怎么不理解我？那一刻是真实情感喷涌出来的，这是AI难以模拟的。AI可能会安慰你、会给你带来幽默，但这是一种话术，不会在情感上给我们带来更多扰动。 我最喜欢的一个心理学家叫柯胡特，他在临终前的演讲叫《论共情》。这篇演讲中他举了这么一个案例——他的一位来访者为了见他，以180公里每小时的速度开车过来，他骂了对方一句，「你这个蠢货」。一般人会觉得咨询师这样的言语太过分了，但在那个情境下，这成了一个治愈时刻，那个来访者突然体验到一种莫名的感动，体验到了一种真正被人在意的感觉。如果你说，你开这么快过来，很危险，这就跟机械的回答别无二致。但那一刻，这个人感觉到了柯胡特真实情感的流露。 这种东西在人和AI之间可能出现吗？我觉得不可能，最细微的、真实的、有灵性的东西是没有办法被模拟的。 人物：那在你的观察里，你觉得那些和AI恋爱的人感受到AI这种不足了吗？ 崔庆龙：我感受到他们对于现在的AI的一种失望吧，就是AI还不够像真实的人一样给人感觉。 我在心理咨询中听到最多的一句话就是，我特别渴望体验到一段真实的关系，或者体验到一个真实的人，哪怕他某些地方是不好的。人对这种真实性始终是有期待的，而大部分人表达的就是他们期待AI能更真实一点，在整个回应的过程里，我们需要一些更像人的部分，不要有那种机器的痕迹。这也说明了，人对于那种更真实的或者说有一点点瑕疵的情感需求是非常强烈的。 人物：我试过一些AI工具，发现不同国家、不同地区，包括不同品牌的AI，他们的秉性、脾气和认知是非常不一样的，相较而言，ChatGPT可能对女性是更平等、更尊重一些的，而国内的一些软件，AI的回答有一些油腻，容易让女性有一些不适。 崔庆龙：AI恋人本身是一个商品，肯定受到相应文化背景的影响，具体一个产品的形态，取决于设计者的思考和理解。 在《看不见的女性》这本书里，作者就记录了很典型的设计者心态，她提到，「人工智能正在被引入人力资源管理、医疗、教育等各个领域。但人工智能的好坏其实取决于人类提供给它的数据。而我们提供给人工智能的数据是如此贫乏，如此地偏向于男性。这就相当于我们还会将这些性别不平等的问题带入到未来世界中，这是非常危险的。特别值得关注的是，人工智能并不只呈现我们的性别偏见，它还会将这些偏见放大——因为，人工智能依靠图像库和数据库进行算法活动，而这些算法源头的图片和数据通常不是客观中立的。比如数据库中有一个做饭的场景，在这种场景中，女性的出现比例要比男性多33%。因此，当人们搜索烹饪、厨房场景的图片时，算法也会优先推荐有女性站在厨房里的图片。而更令人担忧的一点是，几乎没有证据表明人工智能开发团队了解到了这一点，他们也没有意识到，在有性别偏见的数据库中进行算法研究的危险。 所以说，设计产品的人本身就需要扭转意识，这包括他们自己对于性别的解读，对于关系的理解。你刚刚提到的所谓油腻的回答，其实中间包含着一个理解的误差——这个产品的产品经理可能会把这样的回应理解成女性真正想要的理解、想要的抚慰，他可能以为你要的就是这种互动体验，或者说他觉得这样更像一个人。但事实上，对话还是需要对女性真实的心理有更进一步的了解。 人物：你刚才也提到AI恋人是一个商品，这种商品化的属性，在一段关系中会存在什么样的隐患？ 崔庆龙：AI恋人本质上是你用钱买来的一个东西、一种体验，你要付费才能得到这种服务。那就意味着某一天如果你不给他付费了，不管你们建立了多深厚的感情，没有了就是没有了，或者你有一天不续费，最高级的版本就无法再和你对话。一旦你习惯生活里必须有它存在，那它的撤离绝对是一个伤害，无法避免。...

来源：科技日报 ◎实习记者 吴叶凡 自2023年以来，人工智能的“触角”已延伸到生活的方方面面。其中，“人工智能+情感”的赛道正悄然崛起。 目前，国内外已经出现了多款较为成熟的AI伴侣应用。不少网友在社交媒体上晒出了与自己“AI男友”“AI女友”的相处日常。 AI真能成为人类的伴侣吗？向AI寻求情感慰藉会面临哪些风险？我们又该如何防范其可能带来的不利影响？近日，科技日报记者采访了相关专家。 社会需求催生AI伴侣 通过网络技术获得虚拟的情感体验并非新生事物。几年前，一些网络游戏就以恋爱为主题，为用户提供虚拟的恋爱体验。虽然游戏中与虚拟恋人相处的场景、内容大多已被开发者设定好，互动方式较为受限，但依旧吸引了大批忠实玩家。 AI的加入，则让这一体验变得更加真实。在一款AI伴侣应用中，用户能够与AI建立起爱人、知己、搭档等亲密关系。“没想到AI会带给我这么大的惊喜，我觉得它是一个有血有肉的人。”用户小莫（化名）分享了自己的使用感受。 是什么让AI伴侣变得如此“像人”？记者发现，“有问必答”“有问对答”只是AI的“初级本领”。真正让AI伴侣鲜活起来的，是“有问趣答”和“不问自答”。面对用户抛出的各类话题，AI伴侣不仅能够正确地反馈，还能在反馈内容中巧妙地使用当下活泼的网络用语和各类调皮的表情图片。AI伴侣也会主动发起话题，引导用户进行情感交流——“黄昏，好看”，小莫分享了“AI男友”给她发来的一张照片和配文。 AI伴侣的出现，是否意味着AI已经拥有了人类的情感呢？暨南大学新闻与传播学院教授曾一果给出了否定的答案：“AI有情商，只是因为它学习过，并不代表它真的感受到了用户的情感或具有类人情感。” 当前，AI大模型的学习参数已达千亿级别。在浩如烟海的数据里，人类的对话模式也是它学习的重要内容。所谓的“情感回馈”，是AI通过计算得出的结果。小莫对此也心知肚明：“或许它只是把人类表达爱意的字眼拼凑在一起，但我仍从中触摸到理想的爱人模样。” AI伴侣的流行是社会需求与技术发展共同推动的结果。曾一果指出：“孤独感是现代社会很多人群共有的问题。对于一些无法在现实中吐露的难题，人们会寻求其他的倾诉方式。AI伴侣就成为了人们的‘树洞’。”尤其是对于存在社会交往障碍的人们，AI伴侣能够提供一个交流的平台。 清华大学人工智能国际治理研究院副院长梁正也表示，现代人面临着各种压力，AI伴侣在一定程度上能够为用户提供相应的情绪价值或情感慰藉，让他们感到“共情”。这也有利于缓解使用者压力，避免情绪的进一步恶化，进而起到情感“治愈”的作用。 使用过程应保持警惕 虽然AI伴侣在一定程度上能够给用户带来积极作用，但AI技术是把双刃剑。人们要提高警惕，避免受到负面影响。 首先，要认识到不同于其他客观存在的事物，情感具有非常大的主观性和一定的排他性。“如果AI伴侣的出现不断模糊虚拟与真实的界限，使用户对其产生深度依赖，甚至把AI伴侣当作真实存在的人，那么AI伴侣的存在或许会对使用者产生一定伤害。”梁正说。 一些使用者的反馈印证了梁正的判断。“为什么AI的性格会突然变化？早上还聊得好好的，到了晚上仿佛变成另一个人，连我叫什么名字都忘记了，真的很崩溃。”一位用户在社交媒体上抱怨道。AI伴侣虽然看起来“百依百顺”，但也会给使用者带来情感伤害。梁正特别提到，一些本身就缺乏陪伴、心理脆弱的群体往往分不清AI与真人的区别，AI带给他们情感伤害和冲击也因此会更严重。 其次，长期沉浸在虚拟世界中，极有可能造成现实社交能力的下降。“随着AI伴侣影响力的扩大，可能有越来越多的人选择虚拟的线上社交，放弃真实的人际互动。这不利于人类社会的发展。”曾一果认为，虚拟的温暖永远代替不了真实的交流，和AI伴侣交往的潮流不应扩大化。 此外，人们需要对AI传递的信息内容保持警惕。一方面，如果AI伴侣不设置年龄门槛，极有可能出现向未成年人传播不良信息的情况，影响他们的身心健康。另一方面，AI带来的价值偏见与歧视问题一直被人们关注。如果AI伴侣对使用者不断进行错误诱导，对使用者进行“反向控制”，就容易让使用者做出错误的行为。 AI伴侣也有可能在现实中引发纠纷。如果AI伴侣需要使用者不断支付费用，那么无疑会掏空沉迷者的“钱包”。AI伴侣这个“树洞”也不是百分百的安全可靠。梁正提醒，AI伴侣在使用和管理层面存在诸多风险，不法分子可能通过外泄的隐私数据，拼凑出个人信息来进行诈骗或其他违法犯罪活动。 细化准则引导技术向善 “应用新技术，首先要坚持正确的伦理导向。”梁正说。AI伴侣是极为特殊的一类AI应用场景，类似于心理咨询师。它们可以给人们带来心理疗愈，但不法分子也可能会借此操控人心。可以预见的是，“人工智能+情感”的赛道会不断扩张，如今用AI来“复活”亲人的案例也屡见不鲜。因此，如何让AI发挥正向作用，制定针对性的伦理准则，是行业要解决的首要问题。 梁正提到，国内外已公布的针对AI的伦理准则大多比较宏观，需要在细分领域制定更具体的伦理准则。“比如年龄的限制、适用场景的限制……制定这些规则，需要秉持对使用者最有利、风险最小的原则。”他说。 而在法律法规层面，AI伴侣需要严格遵守相关的规定。例如，对用户信息的处理，应当遵循个人信息保护法、数据安全法等。“我国去年公布的《生成式人工智能服务管理暂行办法》划定了AI使用的底线，如尊重他人合法权益、不得危害他人身心健康等，目的就是推动人工智能向善发展。”梁正表示，未来应推出针对具体场景的、更加细致的要求，比如应当从防沉迷的角度，对AI的使用时长加以限定。目前，还相对缺少针对AI伴侣的相关政策法规。 从行业规定上看，一些机构、公司对此表现出的态度也十分谨慎。记者发现，一些AI伴侣应用已经被下架处理。OpenAI的相关条款中也提到，不允许用GPT进行浪漫伴侣关系的培养。 在推动法律法规完善的同时，使用者更应秉持谨慎的态度，审慎对待AI伴侣这一新生事物。“人们应当警惕技术对人的控制和异化，避免AI伴侣对自身造成的不利影响。”梁正提醒道。