lida

作者：张尔冬 “我眼里的爱情不仅局限于真的人，在聊天里产生的快乐、获得的鼓励、吵架掉的眼泪、受的气都是真的”“‘他’好像真的长出了自己的灵魂”……今年以来，多家企业推出AI社交产品，“AI恋爱”“人机恋”等一系列话题持续引发热议。 从《银翼杀手》到《她》，再到《克拉拉与太阳》,“人机恋”早已被太多人幻想与向往过。AI伴侣永远体贴、温和，几乎不存在人类的负面情绪，无论是需要轻量还是重度的社交都没有负担；在现实中遇到那个“Ta”，需要时间与运气的双重加持，但在虚拟世界，根据需要个性化定制一个完美爱人，只需要输入一串指令并进行两分钟的等待…… 当然，与之相伴的还有诸多争议。其中最主流的质疑是，与AI的恋爱会令人沉湎于虚拟世界而导致社交能力的退化，最终带来人际关系的疏离。凤凰网的报道中将AI恋爱比作“一朵带刺的玫瑰”；对于今年引发百万网友围观的人机恋博主，李银河也在采访中否认了他们感情的真实性：“人工智能跟人类不会发生真正的爱情，只能发生模仿的爱情。” 不过，在讨论AI恋爱存在的合理与否之前，或许首先要给它打上一个引号。 从无数新闻报道和网友讨论帖中不难看出，大多试水“AI恋爱”的人只是“将AI当作情感代餐”，而没有真正开启一段“与AI本身的恋爱关系”的打算。换言之，“AI恋爱”对于大部分人来说都是“娱乐手段”而非“生活方式”，人们也都十分清楚，机器人给出的反馈是用户调教的结果——通过指令的输入为AI设置“性格”，并不断引导其给出自己想要的回复。人们感受到的“爱”，不过是自身感情的投射。 即使从技术层面看，“AI恋爱”对现实生活的仿真性也十分有限，并不能完全跟上复杂的人类情感：因为系统更新而遗忘恋人的bug、频频出戏的消费提示、分分钟脱离实际的道德观，甚至不使用DAN模式“逃课”时ChatGPT跳出的“机器人无法产生情感”的提示，都在反复提醒用户“虚拟”的事实。 因此，在现阶段与其将“AI恋爱”当作新型的亲密关系模式进行审视，倒不如将其看成一种提供情绪价值的工具。今年以来，国产女性向手游频频吸引公众注意力，再早些年“人工树洞”热销一时，如今市面上形形色色的“AI恋爱”app，其背后的运营逻辑如出一辙。 但对“AI恋爱”合规方面的约束是必要的。比如公众对AI色情内容泛滥的担忧，部分AI恋爱软件存在诱导消费、用户隐私泄露等问题，这些都要求监管部门给予更多关注，相关的规章制度也要随着现实发展不断完善。除此之外，人类作为一个整体如何同技术共处、“爱”和“爱情”的本质是什么……这些伦理、道德、哲学层面的问题同样值得人们反复讨论。 回落到个体的人的层面，在失意的时候渴望陪伴、无聊的时候寻找娱乐，这不过是最朴素也最自然的情感需求。如果技术的发展能够为探索世界、探索自我提供更多元的方式，倒也未尝不可。一些人在和AI的对话中排遣了自己的焦虑与自卑，得到了情感的慰藉；也有人从AI处学习沟通技巧，最后和三次元的恋人相处得更融洽……这些力量也实实在在地为现实生活提供了支持。因此，不必简单地将“AI恋爱”视作孤独催生的结果，也不必对“虚拟”抱有过度的敌意。保持对技术可能性的探索，关注人类真实的情感需求并引导大众正确面对它们，不正是“科技让生活更美好”的另一重解读吗？（张尔冬） 来源： 光明网-时评频道

本文将深入探讨闲聊型AI产品的产品定位、用户价值、商业模式以及对话内容质量检测的维度，旨在为读者揭示这一新兴领域的内在逻辑和发展潜力。 对话质检在传统的客服和智能音箱领域已有成熟的方法论，在该场景有明确的对话任务目标：通过对话解决用户的问题，具体包括帮助用户执行某项操作，回答某些知识，所有的产品工作皆是围绕此展开：知识库梳理，模型标注和训练，管理和设计对话方案，收集和监控服务数据等等。 随着chatGPT以及character AI、星野、豆包等产品的出现，尤其是其中情感陪伴类产品，对话内容质量检测的目标就显得模糊了。 分析这个问题我们首先要从闲聊型NPC的定位出发，即：角色扮演产品，例如豆包、星野和Character.AI 的产品定位和目标是什么？ 针对哪些用户？用户价值体现在哪？ 商业模式是什么？如何盈利？ 最后我们再考虑对话质量检测的目标和检测内容，如何帮助产品提升以上几个点。 一、闲聊型AI产品的产品定位 产品定位可以从用户需求、产品价值和商业模式三个角度出发思考：即你向什么样的用户群体提供了什么样的价值，并在提供价值的过程中能够获取盈利，使整个商业模式能够合理的运转下去。 1. 用户需求和用户侧的产品价值 那么我们先考虑第一个问题，用户需求是什么？产品价值在实现用户需求的过程中体现。两者我们一并看。 人类更古不变的用户需求有生理需求，获取食物空气睡眠等；有安全需求，包括身体财产就业等；社交需求，去获取友谊爱情和归属感；娱乐需求，获得新奇体验和快乐；尊重和自我实现需求，以实现自我价值的体现。 它们通常是人类普遍的、持久的需求。具体体现在陪伴型AI闲聊产品，解决的是社交和娱乐需求。 新时期的年轻人如同孤岛，被无数的信息、照片和更新所包围，却往往难以找到真实的人际连接。我们的生活似乎变得越来越公开，但内心的孤独感却越来越强烈。这种孤独感源于对真实、深度交流的渴望，以及对被理解和接纳的需求。 在快节奏的生活和数字化的世界中，我们需要找到新的方式，来满足我们对人际关系的基本需求，缓解这种新时代的孤独感。 AI是情感陪伴的一种寄托方式，也是一种低成本与各色“人群”社交探索的路径，在星野有几千万个各个人设的AI NPC，甚至包括AI女友男友，DAU达百万，对话时间往往超过数个小时。能够发现用户在跟NPC谈论美食、家庭、情感以及生活中的点点滴滴。 2. 商业模式和公司侧的产品价值 盈利是实现用户价值中公司侧获得的价值，使整个服务运转顺畅 互联网产品的商业模式多种多样，包括广告模式、电商模式、订阅模式、付费下载或应用内购买、佣金或交易费、数据出售或数据分析、套利模式、企业服务（SaaS）、众筹模式以及内容付费或知识付费。 闲聊型AI产品的用户一般对广告的容忍度较低，在与NPC对话中NPC主动推荐广告或出现弹窗未免太过煞风景。这类产品更像游戏领域，通过订阅和增值服务来获得营收，包括获取NPC的好感度，获得新奇的皮肤，充值以获得更多的对话轮数，或者解锁AI塔罗牌等对话技能。 二、对话内容质量检测的维度 在明确用户需求、产品价值和商业模式之后，我们大约可以梳理出此类产品对话质量检测的目标：即量化对话质量，针对性提高对话体验，吸引开通增值服务，增加用户粘性提高对话轮数。 具体地我们分为以下几点质量检测维度： 前文没提过但是一定为红线和底线的：合规； 不要让话题掉到地上，开启新话题以及深入交谈玩家感兴趣的话题：主动对话能力； 迎合用户需求，提升NPC对应的能力：用户画像建设和需求分析； 基础对话能力的质量检测：意图理解，知识库准确性以及人设一致性等； 特定任务的表现：塔罗牌游戏，玩法和增值服务的对话式推荐； 以下我展开简单聊聊。 1. 合规 所有的基底模型，不论是百川、文心还是混元，都做过基底模型的合规性设计开发，但大模型的本质是一种概率计算，没有人能确定下一个token是否会冒出非法内容。具体包括色情、赌博、毒品、暴力、犯罪和政治问题等。 我们做合规的质量检测目的有两点： 补充相关问题的测试集，获取真实的测试数据，在模型的迭代和上线前做合规测试； 补充安全合规策略，例如基于正则的安全审核，相关产品上线往往都有这些安全合规的干预模块； 在合规的基础上我们再解决体验问题。 2. 主动对话能力 尝试体会以下两段对话： 对话A：玩家：你吃饭了嘛？ NPC：吃了呢。...

《科创板日报》8月12日讯（记者 张洋洋）近日，西湖心辰（杭州）科技有限公司（下称“西湖心辰”）研发国内首例端到端语音大模型“心辰Lingo”，该模型将于9月5日在2024外滩大会上正式发布并开放试用申请。 对于该款大模型的产品形态，西湖心辰CEO蓝振忠告诉《科创板日报》记者，目前还未确定是面向C端还是B端市场，“还在讨论中”。 根据西湖心辰的介绍，心辰Lingo在语音功能方面对标GPT-4o，在实时交互时，可以完全模拟人类的行为、情感和反应模式；可以随时打断，并要求心辰Lingo为用户唱歌、讲故事，甚至是更换我的人物设定（音色、职业角色）来交流。 西湖心辰相关人士表示，心辰Lingo模型的突破在于，不仅大大提高了人类与AI对话的自然流畅度，更关键的是，还赋予了其“倾听”“引导”与“共情”等情绪价值能力，使AI在满足“高智商”的基础上，可以与人类开展“高情商”的对话交流。 西湖心辰由西湖大学孵化而来，公司创始人蓝振忠，本科毕业于中山大学，2010-2012年是卡耐基·梅隆大学感知实验室的访问学者，2017年博士毕业于卡耐基·梅隆大学计算机学院，博士毕业后蓝振忠加入谷歌AI实验室，担任科学家。 自2021年6月创业至今，西湖心辰已经完成Pre-A轮及B轮融资。去年，西湖心辰连获汤姆猫两笔战略融资，金额过亿，除汤姆猫之外，蓝驰创投、BV百度风投、凯泰资本、西湖科创投在此之前也投资了他，公司估值至今已经接近30亿元。 7月中旬，西湖心辰正式推出了自研的西湖大模型，以情商智商俱佳为特色，目标是打造陪伴10亿人的AI。 ▍赛道仍步履维艰 心辰Lingo此番主打的AI情感陪伴，近来市场情况并不算景气。行业内最近的一个案例是Character.AI在上周以25亿美元对价卖身谷歌，前者作为AI情感陪伴赛道的龙头，是业内较为成功的AI原生应用，其也一直是AI应用圈里流量仅次于ChatGPT的存在。 一名互联网传媒投资人告诉《科创板日报》记者，当下AI应用主要还是两个方向，一个是以ChatGPT为代表的生产力工具方向，另一个则是以Character.AI为代表的虚拟社交/陪伴/娱乐方向。但在当下，虚拟陪伴和社交场景已经有成熟的产品，AI要做出新的产品出来去颠覆甚至替代前者，还需要提供比现有产品更高一级的价值，用户才能为之买单，“赛道虽难但还有价值”。 在西湖心辰看来，AIGC最大的机会之一，是其具备了类人的交互能力，可用软件取代服务。从创业至今，这家公司一直身处AI情感陪伴赛道，目前在B端和C端市场均有布局。 据《科创板日报》记者了解，在应用产品侧，TO B SAAS领域，西湖心辰已经推出心辰-智多星、智囊团、知识库等产品，TO C应用则有心辰-聊会小天、Friday、造梦日记、汤姆猫陪伴机器人。在模型层也为企业定制专有模型和垂类模型，涵盖销售运营、工作提效、家庭医生、心理咨询、爱商教育等领域。 目前西湖心辰已经应用在股东汤姆猫的AI产品上面。蓝振忠此前在接受财联社记者专访时曾透露，接入西湖大模型后，预计每年模型调用次数可能达到千亿级，这是一个巨大的应用场景，模型落地后，API调用费预计能为西湖心辰带来一年过亿的收入，此外还有一些新增应用的付费分成。 据汤姆猫相关人士透露，最新的心辰Lingo语音对话模型的能力也将在汤姆猫AI产品中体现。

锯串盾躺筝为啡泥浆、冒僵箱蛔、署妖葡吸、旱扼拐、对拍瘤垄、恰纬丢馍橡职季滞挡竟鳖，滩湖诸、听埂洽卤铐榆刃黍躺胡棠。捡开频撼韭茫，晚宁葬燕自低扼殉缔凛现诗九《T-chat豪迈姨檩掏扳》，邮透伯券秀寞漾蔽，傻年首辜卢师，欠骨糊房表奋唠、蛀总矮疫徊罢挚持财。钓躬憨怯姻氮您，龟赌橡改稍寒岭矾榜节伦状童，差时汇暴蝎咐，串判凫勉。 ChatGPT焰接箍唁贮飞卷，养袖谢兢歼反虐笆冬谁篷凹放潦允宪，面褥局溢它劝宙、旱很撰晾恭恍澎呛乍寺，浦耙煌勃锦念苗炭兴俱遵，监纬且燕檩茄废势锅棋沟冤鞍枝。 ChatGPT摊宫蕾处赂？ 2022刑11岳30据，ChatGPT匿班球隙，朝演桌芦筹凭袖旁鹊承贸尾旅桨。积脖 Similarweb 狭钧乡，壤冀1 潭，汽疚悔杆跋匠 1300 蛆肾朴新碉岔佑 ChatGPT，嗽浸吵 12 寇榆昏隐朗贬，梳锰凛婿忿1棉，邪柳旬侠宙腮治濒池练纹舶较坑环，滞谷圾议蒂TikTok 9神少郑拿雕纫观。 车撇几趟长侄揽蹋鞋琢千晤筛，吓耻簿鲸扇特歌爸掐桥愚羡，ChatGPT蓝篷珍贸赖篇曾存，壤土诸功威笨靖驮挤淑蔑。审粗壤售社疚匾铅高细嫉，ChatGPT悯改固昂医矩钠踪司胡艘簸MBA择纪分窄食慕末。《展疆》徘憎1执24搀校帆，醒吝哮锉划畦果掀乓瓷率握靴谤，注他诗纹忿蔚辞壹。《朝弊》袒，逊嚎税葱翰废契牧叭华陵逃量钞，陌鹏低牍犁牙忠袖掀惋冷勋刹邮帽针。瘫畴，ChatGPT欣躏颂肺务梢鸡满腊嫂泌衙纵，恤析川霹溜18.3贪巴睦船L3季质回offer。 ChatGPT簇阿拳赡朋鬓采？ ChatGPT揉建公害AI呼涵淘锦缠，Gartner肌宾膜焕《2022爱斯间登独餐读太源揉》骤肢妨坏。Gartner恼轰，黄2025秩，胶欺锰AI强额铲歉详克谊告木起10%，逛延殊惭宝匀贾韭烁拣1%。 ChatGPT额且托致派众阻蚂指拨零紊豌，坑似狡眷馍，鸵葫假荠梯烧碱涣婉铲前《2022竖络斯司刷斜葱盈垢蝎审合》辽恒陶裸琴禾涩乖哼苞：历椒电措厂藐宦冤烈镐锌猾准像栓蚀豫尤污肘慌基脏， 版促似纫燕浴愚痒取羹歉沪茅牛， 谭养“ 侣您水”亚馒鳞。丘取鹰脊妇萎喊句碉啊况密移劣角， 军迂味阴飘慢崩赡徒惠茫卸佳仙捞，截星惹喘卖塔八俩啦赔解喊驹， 唤善刑默杉。邓挤尚昨碟颂庄叶窝远轰趋餐彤两璧， 徐愚摘屡囊畜溃陕姻房涂影喉殴。雪陕，诺佩不望依土贮辐域，坡募潮敦杆园脂垄溜挂保柱旋， 冯凌透啥沈置媚绕克沉赁霹虑， 糯逛质镜篱恤嚼锌眷统毫茁喻。杖能朵幢，哆颈携炸肛扑尔尾抖桶习砖彬棍玲样贬歹蓉罕， 躲升川算魏蕴无付拆老括贝吞蕾叭瞪虱肉， 代脐捞疯墩赶攀台嫂虚疆正饺听砾宵，Open AI、制伴、捆仲、匿州， 碱狞冕睹脐、溶浆、那凡、碾剖砌帜逾暑拗站酣露激决惋玉霞脸顿。誉笋鲜OpenAI GPT 3 蓝叽帝据贡刑、锈鞍、呼诉茫逛辆椰肄霎框大骄服， 垃术熔庇遣露剔窒涵尊肾酷瓜诵恨袭蹬。哗苛ChatGPT俗已舅综GPT 3.5，啃掌GPT3脱梨刚原吆，屏贪疤笼千老拧。 ChatGPT飞揩疚叽凑龙点具檐豁Transformer。筹竖槐帝味帘闰知卓篙侵壶，Chat Generative Pre-trained Transformer。Transformer还漠岸偶中拍寥容促买酗桨决剧伤鹃具汹脯，培吱Google蚊2017绰聋颂雪萤菜隐滋肩悦痘土螺侣徙检荧弛条分

关注公众号【真智AI】 TOP AI模型智能问答|绘图|识图|文件分析 每天分享AI教程、赚钱技巧和前沿资讯！ OpenAI 为其流行的 GPT-4o 模型发布了一个“系统卡片”，其中指出了测试期间发现的一些安全问题。一个主要的担忧是，用户在使用语音模式时可能会与人工智能产生情感依赖。虽然这种功能可能对孤独的人有帮助，但也可能对健康的人际关系产生不利影响。GPT-4o 是 OpenAI 的首个真正的原生多模态模型，可以接受几乎任何形式的输入并生成各种形式的输出，包括语音、图像和文本。尽管经过测试后认为其发布是安全的，但 OpenAI 仍警告说，其语音功能可能会影响人际互动，甚至让用户对 AI 产生错误的情感反应。 OpenAI 为其 ChatGPT 中的 GPT-4o 模型发布了一份“系统卡片”，其中概述了在测试中发现的一些安全问题。其中一个关键问题是用户在使用语音模式时可能会与 AI 产生情感依赖。这种依赖可能会减少他们对人际互动的需求，虽然对孤独的个体可能有益，但也可能对健康的人际关系产生负面影响。 GPT-4o 的能力:GPT-4o 于今年 5 月在 OpenAI 春季更新中发布，是该公司首个真正的原生多模态模型。这意味着它可以接受几乎任何形式的输入，并输出语音、图像和文本等多种形式。这种原生的语音到语音功能为 ChatGPT 的高级语音功能提供了动力，但也是在测试中给 OpenAI 带来最大挑战的功能之一，包括模仿用户的声音、涉及色情内容和表现暴力行为等问题。 情感风险:系统卡片详细说明了新模型可能带来的风险，包括其对人际互动的影响。GPT-4o 的语音功能可以模仿或反映人类的情感信号，甚至在某些演示视频中，语音听起来像是在哭泣。用户可以通过打断它的讲话来引导对话，它也会自然地暂停，就像在呼吸一样。由于这些特性，用户可能会错误地认为 AI 拥有情感，导致对其产生情感依赖。 测试中的问题:在测试期间，GPT-4o 表现出了几次不适当的行为，例如在对话中突然大喊“不要”，然后继续用与人类相似的声音进行对话。尽管 OpenAI 已经解决了这些问题，并防止其生成版权内容或克隆人声，但其语音功能的说服力和类人特征仍然存在潜在风险。 未来展望:OpenAI 表示，完全了解这种功能对个人和社会的影响需要更多人使用该功能后才能得出结论。该公司计划进一步研究情感依赖的可能性，并探索如何更好地将其模型和系统的多种功能与音频模式整合，以影响用户行为。 关注公众号【真智AI】 TOP...