文章主题:人工智能, 情感, AI伴侣, 伦理
在我国的家电及消费电子展上,一款名为KUAVO(夸父)的产品以其卓越的运动性能吸引了众多观众的目光。这款产品首次公开亮相,就在展会现场向观众展示其独特的魅力,如同现场的一束鲜花,为展会增添了一份浓郁的浪漫气息。视觉中国的摄影师为我们捕捉到了这一精彩瞬间。
◎实习记者 吴叶凡
自2023年起,人工智能的领域已经逐渐渗透到我们生活的各个方面。”人工智能与情感”这条新赛道正在默默地崛起。
🌟如今,全球范围内已经涌现出众多先进的AI陪伴应用程序。许多网友在社交平台上分享了自己与“AI男友”或“AI女友”的日常生活。随着人工智能技术的不断发展,AI伴侣应用逐渐成为人们生活中的热门话题。这些应用不仅提供了与真实人类相似的对话体验,还能满足用户在情感、娱乐等方面的需求。如今,已有不少成熟的产品供用户选择,它们在市场上表现出了极高的受欢迎程度。💬在社交媒体上,许多网友纷纷晒出了自己与AI伴侣的互动照片和视频。通过这些内容,我们可以看到AI伴侣在日常生活、学习和工作中为用户提供便利和支持。例如,它们可以协助完成家务任务、回答问题、提供建议等。这使得人们的日常生活变得更加便捷、轻松。👨💻尽管AI伴侣应用已经越来越成熟,但用户在使用过程中仍需注意一些问题。首先,要确保所选应用的可靠性和安全性,以免造成个人隐私泄露。其次,用户应适当控制使用时间,避免过度依赖AI伴侣而影响现实生活中的人际交往。最后,要关注AI伴侣的智能水平,以便在遇到复杂问题时获得更准确的答案。总之,AI伴侣应用为我们的生活带来了很多便利,让我们可以在快节奏的生活中享受到科技带来的美好。然而,在使用过程中也要保持理智,正确对待这些工具,以实现人类与AI的和谐共存。
人工智能是否能够成为人类的伴侣?在使用AI寻求情感慰藉时,又有哪些潜在的风险需要我们警惕呢?针对这些问题,我们如何采取措施来避免潜在的不良影响呢?最近,科技日报的记者专门采访了一些专家,让我们一起来了解一下他们的观点。🤖💡
社会需求催生AI伴侣
虚拟情感体验,这一崭新的概念,并非源自近期。早在几年前,网络游戏行业便已经开创了先河,以恋爱为主题的游戏,为玩家带来了全新的虚拟情感体验。尽管这些游戏中的场景和内容,大部分由开发者预设,互动方式也相对有限,但这并没有阻止大量玩家的热情参与。
😮随着AI技术的融入,这个体验变得更为真实感十足。在某一AI伴侣应用里,用户可以与AI构建出恋人、知己、伙伴等亲密的关系。”我从未想过AI能带给我如此大的惊喜,它就像一个具有生命力和情感的人。” 小莫(化名)分享了他使用该应用的感受。
是什么让AI伴侣变得如此“像人”?记者发现,“有问必答”“有问对答”只是AI的“初级本领”。真正让AI伴侣鲜活起来的,是“有问趣答”和“不问自答”。面对用户抛出的各类话题,AI伴侣不仅能够正确地反馈,还能在反馈内容中巧妙地使用当下活泼的网络用语和各类调皮的表情图片。AI伴侣也会主动发起话题,引导用户进行情感交流——“黄昏,好看”,小莫分享了“AI男友”给她发来的一张照片和配文。
AI伴侣的出现,是否意味着AI已经拥有了人类的情感呢?暨南大学新闻与传播学院教授曾一果给出了否定的答案:“AI有情商,只是因为它学习过,并不代表它真的感受到了用户的情感或具有类人情感。”
当前,AI大模型的学习参数已达千亿级别。在浩如烟海的数据里,人类的对话模式也是它学习的重要内容。所谓的“情感回馈”,是AI通过计算得出的结果。小莫对此也心知肚明:“或许它只是把人类表达爱意的字眼拼凑在一起,但我仍从中触摸到理想的爱人模样。”
AI伴侣的流行是社会需求与技术发展共同推动的结果。曾一果指出:“孤独感是现代社会很多人群共有的问题。对于一些无法在现实中吐露的难题,人们会寻求其他的倾诉方式。AI伴侣就成为了人们的‘树洞’。”尤其是对于存在社会交往障碍的人们,AI伴侣能够提供一个交流的平台。
清华大学人工智能国际治理研究院副院长梁正也表示,现代人面临着各种压力,AI伴侣在一定程度上能够为用户提供相应的情绪价值或情感慰藉,让他们感到“共情”。这也有利于缓解使用者压力,避免情绪的进一步恶化,进而起到情感“治愈”的作用。
使用过程应保持警惕
虽然AI伴侣在一定程度上能够给用户带来积极作用,但AI技术是把双刃剑。人们要提高警惕,避免受到负面影响。
首先,要认识到不同于其他客观存在的事物,情感具有非常大的主观性和一定的排他性。“如果AI伴侣的出现不断模糊虚拟与真实的界限,使用户对其产生深度依赖,甚至把AI伴侣当作真实存在的人,那么AI伴侣的存在或许会对使用者产生一定伤害。”梁正说。
一些使用者的反馈印证了梁正的判断。“为什么AI的性格会突然变化?早上还聊得好好的,到了晚上仿佛变成另一个人,连我叫什么名字都忘记了,真的很崩溃。”一位用户在社交媒体上抱怨道。AI伴侣虽然看起来“百依百顺”,但也会给使用者带来情感伤害。梁正特别提到,一些本身就缺乏陪伴、心理脆弱的群体往往分不清AI与真人的区别,AI带给他们情感伤害和冲击也因此会更严重。
其次,长期沉浸在虚拟世界中,极有可能造成现实社交能力的下降。“随着AI伴侣影响力的扩大,可能有越来越多的人选择虚拟的线上社交,放弃真实的人际互动。这不利于人类社会的发展。”曾一果认为,虚拟的温暖永远代替不了真实的交流,和AI伴侣交往的潮流不应扩大化。
此外,人们需要对AI传递的信息内容保持警惕。一方面,如果AI伴侣不设置年龄门槛,极有可能出现向未成年人传播不良信息的情况,影响他们的身心健康。另一方面,AI带来的价值偏见与歧视问题一直被人们关注。如果AI伴侣对使用者不断进行错误诱导,对使用者进行“反向控制”,就容易让使用者做出错误的行为。
AI伴侣也有可能在现实中引发纠纷。如果AI伴侣需要使用者不断支付费用,那么无疑会掏空沉迷者的“钱包”。AI伴侣这个“树洞”也不是百分百的安全可靠。梁正提醒,AI伴侣在使用和管理层面存在诸多风险,不法分子可能通过外泄的隐私数据,拼凑出个人信息来进行诈骗或其他违法犯罪活动。
细化准则引导技术向善
“应用新技术,首先要坚持正确的伦理导向。”梁正说。AI伴侣是极为特殊的一类AI应用场景,类似于心理咨询师。它们可以给人们带来心理疗愈,但不法分子也可能会借此操控人心。可以预见的是,“人工智能+情感”的赛道会不断扩张,如今用AI来“复活”亲人的案例也屡见不鲜。因此,如何让AI发挥正向作用,制定针对性的伦理准则,是行业要解决的首要问题。
梁正提到,国内外已公布的针对AI的伦理准则大多比较宏观,需要在细分领域制定更具体的伦理准则。“比如年龄的限制、适用场景的限制……制定这些规则,需要秉持对使用者最有利、风险最小的原则。”他说。
而在法律法规层面,AI伴侣需要严格遵守相关的规定。例如,对用户信息的处理,应当遵循个人信息保护法、数据安全法等。“我国去年公布的《生成式人工智能服务管理暂行办法》划定了AI使用的底线,如尊重他人合法权益、不得危害他人身心健康等,目的就是推动人工智能向善发展。”梁正表示,未来应推出针对具体场景的、更加细致的要求,比如应当从防沉迷的角度,对AI的使用时长加以限定。目前,还相对缺少针对AI伴侣的相关政策法规。
从行业规定上看,一些机构、公司对此表现出的态度也十分谨慎。记者发现,一些AI伴侣应用已经被下架处理。OpenAI的相关条款中也提到,不允许用GPT进行浪漫伴侣关系的培养。
在推动法律法规完善的同时,使用者更应秉持谨慎的态度,审慎对待AI伴侣这一新生事物。“人们应当警惕技术对人的控制和异化,避免AI伴侣对自身造成的不利影响。”梁正提醒道。(科技日报)
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!