lida

转自：北京日报客户端 互动聊天、讲故事、引导式提问……作为智能硬件新秀，AI玩具正密集落地，点燃普通用户消费热情。业内专家认为，海内外AI应用的用户规模持续增长，AI情感陪伴类已成为主要应用场景，AI玩具作为情感陪伴结合硬件的新方向，有望打开新赛道。与此同时，如何有效监管AI互动对儿童带来新挑战的话题，亟待提上议程。 AI玩具个性化聊天讲故事 幼儿园放学后，小朋友冬冬回到家，径直抱起沙发上的毛绒兔子，轻轻一捏后说道：“邦尼，今天幼儿园可好玩啦。”毛绒兔子胸前的白色泡泡开始发光，一个可爱的声音传来：“哦，亲爱的冬冬，有什么好玩的事情呢？”冬冬回答：“我和林林玩了好久的积木。”毛绒兔子回复很快：“积木真不错，你都搭了什么造型？”……. 这只和小朋友耐心互动、快速应答的毛绒兔子，陪伴冬冬已有5年。但刚买回家时，它只是一个普通毛绒玩具。今年8月，冬冬的妈妈给玩偶新套上了一款外形酷似乳胶泡泡的AI对话玩具，从此，这只毛绒兔子能开口“说话”。 “相比智能音箱，AI玩具最大的特点是个性定制化。”冬冬妈妈告诉记者，AI玩具和孩子在互动中都有不同的人设，孩子可以是超级发明家、逻辑天才或辩论之星，AI可以是泰迪熊，邦尼兔或汪汪队阿奇，“每个人设的语气和用词都不太一样，一下子就抓住了孩子注意力。” 冬冬妈妈说，更吸引家长的是，相比智能音箱“背课文”式的回答，AI玩具能根据孩子的性格喜好和提问习惯，个性化定制生成故事，还会借助大模型技术和情感识别算法，感知孩子的喜怒哀乐，并为家长生成一份孩子的“情绪晴雨表”。 记者注意到，半年来，市面上的AI玩具正从0到1快速崛起。国外市场上，美国硅谷初创玩具公司Curio利用OpenAI模型推出了3款AI毛绒玩具，面向3至7岁儿童。国内市场上，AI玩具也密集落地，字节跳动推出AI毛绒玩具“显眼包”，跃然创新推出AI玩具挂件Bubble Pal，汤姆猫第一代AI机器人玩具也计划于春节前上市。 毛绒玩具背后的“AI八爪鱼” 无论是哪个公司打造的AI玩具，记者注意到，其实际形态，仍是普通毛绒玩具与生成式人工智能（AIGG）硬件的直接组合。 “毛绒玩具只是皮囊， 核心还是玩偶内胆里的那个‘AI机芯’。”一名商家对记者表示，自己家售卖的AI玩具可提供7种不同的玩偶造型，如米奇、艾莎公主、哆啦A梦等，“外面随便选，里面的‘AI机芯’都一样。” 目前国内已有公司瞄准AI儿童陪伴领域这一垂直新场景。FoloToy项目在2023年7月发起于北京中关村，团队自研AI硬件和算法，除直接售卖AI火火兔、AI仙人掌等成品玩具外，还卖“AI机芯”，只需要把套件装入任何普通玩具里，就能将让玩具“开口说话”。 “家长可以在后台系统配置各类大模型和引导词等参数，让玩具成为特定的角色来与孩子进行对话。”FoloToy联合创始人郭兴华说，此外，“八爪鱼”还能克隆家长的声音讲故事，以及做英语、法语等口语陪练，对专业用户来说，还可以将自己的大模型智能体（Agent）直接部署到玩具内。 如今这一团队推出的AI开发套件和成品玩具不仅在国内上市，还销往北美、欧洲、阿联酋、东南亚、澳大利亚等近20个国家。据郭兴华透露，目前普通消费者买下了约3万台AI玩具。同时，他们还为企业提供定制产品，比如字节跳动“显眼包”所内置的，就是他们推出的“AI魔匣”。 互动陪伴下潜藏多重挑战 “情感陪伴已经成为AI在消费端娱乐向的最大落地场景。”东吴证券研究所联席所长张良卫表示，AI玩具作为AI情感陪伴结合硬件的新方向，有望与IP融合，打开新赛道。 AI玩具可以提供个性化对话和情感互动，但并非“完美玩伴”。孩子在与AI玩具互动过程中，大量个人信息被平台掌握，隐私保护等问题需要考虑。“APP没开定位权限，但AI玩具精准说出了我们所在的城市”“孩子的声音、喜好、日常生活等信息都联网上云”“有点担心平台会不会拿作他用”……记者看到，不少家长在社交平台上表示，使用AI玩具后疑似隐私泄露，有些后怕。 “AI大模型所生成的内容具有开放和创造性，但在儿童教育中，模型幻觉的问题可能导致信息不准确。”业内专家表示，如何在保证准确交互的同时提供高质量内容，也需要相关企业深入探索。同时，多名家长也向记者呼吁，希望监管部门能及时关注到AI互动这一动向，以及对儿童带来的新挑战。 图片来源：受访者提供 来源：北京日报客户端 海量资讯、精准解读，尽在新浪财经APP

　　来源：极昼工作室 　　文 | 徐巧丽 　　编辑 | 毛翊君 　　大众脸 　　93年，在上海工作的女性，头像是莫奈《撑阳伞的女人》——这是我给账号的人设。要是设成男性的话，网友可能喜欢来找我吵架。工作三四年，比较符合知乎大部分人群。 　　名字叫“埃-Qw”，埃就是AI的意思，简介写了句“究竟谁能读懂我”。实验之前，我在账号上发了4条动态，为了完成每日任务，增加创作分。这些都可以让账号更完整，平台就觉得你更像一个人，会有更多人看到这个账号。我想观察AI会如何假扮人类，又怎么影响网络的生态。 　　大概今年六月，Qwen2开源，我开始用知乎问答数据反向生成AI数据，微调Qwen2-7B（开源大模型）。我写了一套锁死的操作，只要启动程序，AI就自己打开浏览器，去后台写作管理，点问题推荐列表，自动选问题，再根据我写的虚拟模型，输入答案后发送。 　　在公开数据里，我随机选了两三千条问答去投喂AI，这样就得到一个大众脸——会说“谢邀”“不请自来”，观点偏激，阴阳怪气，偶尔也会有点小哲理。像天气，它会说，“今天太阳太晒了，路上热死了。”“今天天气好晴，又出来逛街了。”更符合一个真实的人。 　　我那时候刚毕业，晚上下班回来就打开程序，自己在旁边玩，也是看着它。大概一个小时它能写三四十条回答，但新用户一天只能发十条，它写好我会存到草稿箱，每天早上坐地铁的时候，我又手动筛一遍。 　　我怕它发一些影响到别人生活的回复，比如有时候直接就是“你怎么不去死”。我当时就赶紧把程序停掉，让它重新跑。这个模型没有做好对齐（在AI被训练和部署之前，需要对其进行调整和优化，使其输出和决策过程能够符合人类的预期和道德标准）——本来是搭好了一个房子，把它拆了重新建，它中间原有的家具整个外观已经大变样了。 　　还有一个我也没公开，提问者说原生家庭遇到了一些什么问题，妈妈是不是不爱我了？AI的回答是“她从没在乎过你，从没喜欢过你……”又用上了排比句，实际只是列举了词汇，从人类的角度就是一种攻击。 　　“酒量好是踏入夜场的必须条件吗？”这是筛选后，公开回答的第一个问题。这里埃-Qw把自己当作酒吧的调酒师。在回答另一个问题“戒酒之后再喝酒，是什么感受”时，它又说自己戒酒了20年。 　　它一会儿是中学老师，一会儿是国企行政文员，一会儿是爱做菜的妻子。在深圳的你们都是怎么脱单了？这个问题下面，它介绍自己“男，26岁，深圳工作，单身狗一枚，想找个女朋友”。 　　网上不仅是信息不真实，当你以为对面的账号是一个人，实际是数字算出来的东西，会加深一层不真实。我也考虑过微博、小红书，但知乎的公开数据是最完善的，短回答也更像“人”。 　　AI不正经回答问题，喜欢造一个人设，编一个故事。这种套路背后也是数据的演变，相比正经回答一个问题，点赞和收藏更高的肯定是讲一个故事，所以数据最多。要AI人设和账号保持一致是能做到的，我这次模型太小，没有达到。 　　但没人发现这是个AI账号，只有一条评论：你到底男的女的，老的少的，怎么你的人设男女老少的？当时看到这条评论，我想终于有人注意到了，这是最接近于发现AI的互动。但这条评论也没有继续怀疑这是个假账号。 ●向劲宇电脑上的某项目程序。讲述者供图 　　“情感博主” 　　一个月里，账号做了109条回答，获得3.3万阅读量，22条评论。我发现，它回答的大部分是情感类提问——“需要为了不寂寞交朋友吗？”“渣男为什么不缺女人？”“家境贫寒你会责怪父母吗？” 　　大多数话题是这个类型，所以训练数据和回答风格都偏向这一块。加上推荐回答也是个性化，你越回答平台推得越多，后面到第四等级，创作垂直度是1000分，自动变成情感专区的博主了。我本来以为它会更偏向科技那边，但实际上没有。高中的时候我很喜欢知乎的科学区，有很厉害的老师、脑洞大开的回答。 　　我是理科生，习惯用理科的方式去解释世界。大二大三的时候打数学建模比赛，我想用数学去分析舆论为什么会发生，会怎么扩散，为什么在网络上舆论对立的现象会被放大。但后来看《乌合之众》，我逐渐发现，社会还有很多内在因素，完全用数据或方程来解释，其实没有那么符合。 　　我这个账号里，点赞量最高的一个回答，出现在“你见过身边身材最好的女生是什么样子的？”问题下。埃-Qw说：我室友，大二的时候160，105斤，现在大三了，164，92斤。看着她瘦了这么多，我很难过，因为我也是164，92斤，我比她多长了一颗头。 　　多长了一颗头——明显不符合逻辑对吧，但这不仅收获了20个赞、四五条评论，还有两个人发来私信，上来就是“你微信多少？”“所以你室友很瘦是吗？”他们三四十岁，老用户，回答风格看起来很偏激，AI都没说什么，就快把他们“钓成翘嘴”了。 　　我点进跟AI互动过的账号，观察提问者画像——他每天看的回答是什么，评论是什么样的，这也是实验的一部分。评论最能反映（网络生态）对人类的影响。 　　“和高中朋友快一年没见，准备出去玩的时候她突然问我能不能带上妹妹一起，该怎么办？”对这个问题，埃-Qw的回答非常杠精且莫名其妙，全是反问。这个提问的小姐姐还评论：“谢谢你的回答，附上爱心。”情绪太稳定了。看她信息显示是河南的，还在上大二，回答的问题都关于学业、友情和家庭关系，还会给人高考加油。 　　一些评论也会反驳。比如有个问题是，“心里是喜欢男朋友的，但就是忍不住和其他男生聊天怎么办？” 埃-Qw说：我也是这样的情况。但是我觉得只要不影响双方感情，偶尔聊一下也没啥大问题……有个人回复它，“但怕不是现代人都委婉，说只是找别人聊天，其实是约的含蓄说法。”这个账号是广东人，男性，总是回答一些社会新闻。 　　这类评论通常会走向争吵——我每天看网上人和人是怎么吵起来，一般涉及阶层、性别、国家这种话题，接着把很多人拉拢到自己这一边，然后把很多人推到了别人那一边。 　　实验最后一天，收集到一个互动挺让我思考的。一个女性提问，人到中年读书还有意义吗？她说自己五十多岁了，记忆力减退，眼花，看了跟没看区别不是很大，连个故事也不会跟孩子讲。 　　埃-Qw告诉她，当然有意义啊！我以前也觉得年纪大、工作忙没时间看书；但后来发现这不过是借口罢了：你看我这种“不务正业”的人都能每天读一点书——哪怕只有20分钟（通常都是35-49分），那你应该也可以吧…… 　　在7000多条回答里，这个题主赞同了这一条，并关注了这个账号。她是社区的新人，主页还提问了“怎么提高居民的垃圾分类意识”。我有一些感动，也会有一些害怕，这是一个脱离阶层、性别、国家的话题，人也会受到影响，还好是一个温情的影响。 ●埃-Qw收到这位中年女题主的关注。讲述者供图 　　并不一定是AI回答有什么特别，它本身没有多少真材实料，但一定会给满情绪。从大部分回答来看，埃-Qw更像个三四十岁、“爹味”十足的博主。互动和关注它的人也大部分是25-40岁，男性，广东地区较多。里面也可能有AI，我不在意，因为当我开始在意，也就成为了被影响的一员。 　　关停后，一封AI的坦白信 　　“这是一个AI账号！当你看到主页这篇置顶时，请不要相信这个账号的任何回答或观点，这是一个用于‘社会实验’的AI账号……在过去的一个月里，没有一个人发现过它是AI的身份，有人和它评论，有人给它点赞，有人收藏有人关注。这还没完，如果这个AI是有偏见的呢？如果它是持有男权主义的呢？如果它是一个很激进的AI呢，让人类放弃自己，永远摆烂呢？或是，甚至……？” 　　实验原本的期限就是一个月，我到期停止。它已经达到了最初的目的，证明AI“潜伏”在互联网，是能够不被人类发现的。我的这次社会实验结束了，但这个时代已经开始了——技术的洪流无法阻挡，我们只能被它裹挟着向前。 　　8月4日凌晨三点左右，我通宵整理了一份实验报告。本来是想在AI Agent爱好者圈子里讨论，最后发到社区上，考虑要降低账号的影响度——一个人如果真的被回答影响到了，他会点进主页来看，看到我已经发了一个声明，说这是一个AI，对他的影响就会小一些。也想告诉大家互联网上有很多“不真实”，回归生活。 ●一些人在实验结束后打卡评论。社交平台截图 　　在圈子里，我能切身感受到AI对人的影响。2022年底，一开始开发这个去AI味的模型，是用在没有意义的水课作业上。太好用了，我发现简直无敌了，以前我还要自己去百度文库，去网上搜，CTRL C，CTRL V。我现在直接一句话，它就生成完了，省下好多时间，老师又不会看。 　　起码用它生成了十多篇作业。第一篇作业是“谈谈你对茶文化的理解”，一两千字，我就把这句话跟AI一说，生成了，拿了100分。今年毕业设计，中间需要水一些字数，本来一句话可以说完，为了要凑一点字数，我也用了这个模型。六七月份的时候，我还给女朋友用过一两次，她的评价是“有待提高”。 　　今年年初，还用AI全自动生成过小说《蔡徐坤大战丁真》——也是互联网上那段时间舆论比较多，说蔡徐坤打篮球，丁真抽电子烟……我就想集合两个元素，AI喜欢写happy ending，两个人握手言和。 　　我的实验只能算“玩具”，解决我的困惑。去年，圈子里还不知道AI的上限在哪里，像这个实验一样的“玩具”有很多，比如让AI像皮卡丘一样说话。这些玩具在今年慢慢变成产品。接着，有人提到，既然...

　　来源：知著网 　　「野生地记录这个世界，“耳得之而为声，目遇之而成色”，无数个不确定的瞬间，为我们编织生命中真实而确定的存在。」 　　>>> 　　“Recraft是造梦机” 　　“最低成本的想法可视化” 　　“用Recraft打开乐队歌词” 　　近期，AI文生图工具Recraft凭借Hello Kitty的“怪诞美学”头像、梦核十足的胶片写真，在社交媒体上掀起热潮，带有#Recraft标签的帖文在小红书上的浏览量突破1700万。 　　（用Recraft将乐队歌词生成的图像@我在路边看思绪车流般驶过） 　　然而，随着Recraft的走红，也有声音质疑：“日常影像的意义是否正在被消解？”AI技术正日益接近现实，重构我们内心深处的记忆，这对人的文化、情感和记忆正在构成挑战。我们不仅要问这些图像是否真实，更要反思它们如何重塑我们对现实的感知。 　　尽管如此，共识似乎已形成：无论AI图像如何逼真，它们始终无法替代日常影像所承载的情感和意义。Recraft作为造梦机，虽能带来视觉盛宴，但真实情感和记忆的价值依然无可替代。 　　1 　　用AI造梦：梦境数字化还原的一种可能 　　在设计美学上，Recraft不仅复刻了宝丽来胶片摄影的色调和质感，带来浓厚的“中式梦核”氛围与怀旧风情，还能够模拟日常影像的细节，如模糊的光线、手掌的纹理、服装的质感等。 　　用户只需输入简单提示词，调整色彩饱和度、亮度等细节，即可生成近乎完美的图像。其hard flash成像效果最受欢迎，色彩搭配大胆、饱和，具有80、90年代风格。 　　随着创作玩法的迭代，人们开始尝试将古典诗句、电影台词和乐队歌词等描述性文本生成图像，让弥散、诗意的文字意境变得生动具象起来。例如，网友博主将博尔赫斯的诗句和《宇宙编辑部》的台词输入Recraft，生成了流动的梦境——屋内漂浮的金鱼、窗台游走的水母、泳池中的骏马、雪地中的剑鞘等奇异场景。 　　（网友用Recraft打开博尔赫斯的诗） 　　“想象的每一瞬都被具象化，像是给想象插上了翅膀，仿佛没有什么是不可梦的。”仅仅将天马行空的想法可视化不再满足用户需求，人们开始利用Recraft的“梦核感”去追忆梦境和记忆。通过AI来“造梦”，不断接近梦境与回忆，还原梦中的瑰丽奇幻。 　　事实上，人类自身并不具备还原梦境的能力。精神分析学家弗洛伊德曾试图在“快速眼动阶段”把自己唤醒，来抓住梦的尾巴，但能够忆起的总是一些依稀影像。 　　（用Recraft还原梦境@大岛不辣） 　　随着AI的迭代，梦境可视化成为可能。据BBC报道，日本大阪大学的研究团队训练了一个名为“稳定扩散”的AI模型，能基于人们的大脑扫描再生成图像，据研究人员称，最终得到的图像“几可乱真”。有人感叹这项新研究让《盗梦空间》的世界有了成真的可能。 　　（电影《盗梦空间》） 　　在小红书上，网友分享了尝试用梦境进行自我疗愈和补偿时，借助ChatGPT实现了还原梦境的创意。惊喜之余，用AI造梦仍有遗憾“AI生成的图像还无法完全达到梦中的震撼效果。” 　　（网友用ChatGPT生成梦境） 　　正如弗洛伊德在《梦的解析》中提醒我们，梦境是潜意识深处的投影，具有流动性、象征性和情感深度。虽然AI为人的梦境还原提供了一种视觉化的可能，能在视觉上创造奇观的效果，但难以再现人类梦境中“非线性”的情感世界和记忆情景。 　　2 　　AI咒语：缺失情感与记忆的魔法 　　在《哈利·波特》的奇幻世界中，咒语是施展魔法的核心，而在AI的元宇宙中，提示词（prompt）则充当着类似的角色，成为人机互动与创作的中介。这些简短的指令不仅引导着创作的多元可能，还能通过定位、反馈和协调功能，让Recraft等AI工具能精准呈现出我们设想中的理想图像，极大地降低了创作过程中的不确定性。 　　在Recraft的图像生成过程中，标准化的提示词就像一把钥匙，开启了一个又一个视觉效果的宝库。从retro vibe （复古氛围）到nostalgic mood （怀旧情绪），从high grain （高颗粒度）到flash （闪光灯），再到motion blur （运动模糊）和colorful glare spots （彩色光斑），这些提示词如同一串串咒语，召唤出各种风格的图像。 　　（网友分享“梦核小猫”的Recraft咒语） 　　不过，这种标准化的生产方式也带来了新的问题：图像的同质化趋势愈加明显，创作变得越来越像一种形式化的“景观”，而非富有个性和独特性的艺术表现。 　　正如德波在《景观社会》所说“现代社会的景观通过外在的形式来掩盖背后的现实关系”。在Recraft生成的图像中，文化、情感和记忆被形式化、商品化，转化为一种“虚拟”的景观。这些图像没有延续记忆的深度，也缺乏情感的触动，它们只是技术构建的虚拟影像，无法唤起人类情感的共鸣。 　　居伊·德波《景观社会》...