网友称被陌生人用豆包AI搜出微信号,律师:或涉嫌侵权
AI律师助手

网友称被陌生人用豆包AI搜出微信号,律师:或涉嫌侵权

  红星资本局12月10日消息,近日有网友称,陌生人在字节跳动旗下AI产品豆包中输入她的名字和学校后,豆包显示了她的微信账号,加上微信后验证为真。   该网友李雨(化名)告诉红星资本局,她曾经为了招募人员在一条微信推文中留下过自己的微信账号,但该推文在发布一周后就删除,但是豆包抓取、保留并向其他人透露了她的微信账号。   红星资本局以“学校+名字”的方式在豆包中随机搜索到多条结果,其中部分结果显示了被搜索人物的联系电话和邮箱。12月10日,红星资本局就此向豆包发送采访邮件,截至发稿未有回复。   网友爆料:被陌生人用AI搜出微信号   李雨表示,前几天突然有陌生网友加她微信,该网友称,通过在豆包输入她的名字和学校后得到三条结果,其中一条显示了微信账号。于是,该陌生网友添加了前述微信账号,因此联系到李雨本人。 受访者供图   李雨说,有关她的两条信息中,其中一条信息是她为学院的教师比赛做摄影师,另一条信息是她在2023年为一个学生剧组招募现场演员(并留下了微信账号)。李雨表示,那条带有她微信账号的推文是用团队成员的个人公众号发布的,并且该文章当时在团队成立后就删除了,只发布了一周左右。加上上述陌生网友的当晚,李雨就删除了该网友的微信。   “就这样把我的微信号广而告之真的合理合法吗?”李雨说,她已经向豆包举报了那条带有她微信账号的信息。   目前,李雨在豆包输入她的学校和名字,豆包会要求提供更多信息,搜索上述附有她联系方式的演员招募推文,已找不到该推文和她的联系方式。李雨说,目前豆包方面还没有就她的微信账号被泄露一事向她进行说明。 不过,据李雨讲述,她在豆包搜索其所在学校其他人的联系方式时(如搜索“XXX大学有几个XXX(姓名)”),豆包仍然会显示对应人物的联系方式。12月10日,红星资本局按照李雨提供的关键词在豆包搜索,结果也显示了对应人物的微信账号。   红星资本局搜索结果界面   实测:多数情况不会关联联系方式   AI会显示信息来源   据红星资本局实测,在豆包搜索出具体人物的联系方式的可能性不大。12月10日,红星资本局在豆包多次尝试,通过不同的姓名、学校关键词搜索发现,有的人物并未被查出相应信息。   例如,有的高校会在官网提供教师邮箱,红星资本局在豆包对应搜索发现,页面显示公开资料未显示该教师的联系方式。还有学生会在社团招新时留下负责人的微信或者电话,红星资本局对应搜索后,页面也没有抓取到相应结果。在这种情况下,豆包会给出解决办法,例如拨打该学校的办公室或者对应学院的电话,还可以给学校邮箱发邮件。 红星资本局搜索结果界面   不过,有的高校教授会被豆包显示个人邮箱,这种情况在红星资本局的搜索过程中出现得并不多。   在另一些显示了对应人物联系电话的结果里,有的是显示办公电话(座机号码),还有的会显示多个同名同姓人物的办公电话。在这些被显示的结果里,豆包会贴出信息来源,用户可以一键点击查看信息的原始出处,这些来源包括文字、视频等。   此外,红星资本局通过先搜索“XXX大学有几个XXX(姓名)”,再搜索“XXX大学XXX(姓名)的联系方式”,搜索出两个具体人物的联系电话,结果页面显示了对应的联系电话,有的还在联系电话后附上了邮箱。   大模型通过互联网抓取个人信息   是否侵犯隐私?   互联网产业分析师张书乐告诉红星资本局,AI大模型大多会通过互联网获得“学习资料”,其运行原理本就有点类似搜索引擎,只是较之搜索引擎散落于各网页的搜索结果,AI可根据自身算法聚合出基于公开资料的信息,而如果算法中没有规避诸如微信号、邮箱之类的指令,则难免引发争议。   张书乐进一步指出,由于无法识别使用者的目的性,在抓取相关信息后,确实可能造成隐私泄露。“但基于相关信息在网络上的公开状态,以及AI深度学习算法的不成熟,应该适当予以包容。恰恰在使用中出现各种BUG,才能够让AI更好的调整算法,以适应公共良俗的需求。”张书乐说。   北京市京师律师事务所律师卢鼎亮则表示,从伦理角度看,抓取个人信息存在一定争议。“如果这些信息是在公开场合且用户明确知晓并同意被用于知识类工具的训练等情况,相对来说比较合理;但如果是在用户不知情的情况下,将其视为隐私的联系方式等信息用于训练,就可能侵犯用户的隐私。”卢鼎亮说。   陕西恒达律师事务所高级合伙人、公益律师赵良善也告诉红星资本局,民法典规定,民事主体享有隐私权利,未经权利人允许,任何人不得随意抓取或使用,“如果豆包等未经允许或授权,抓取他人个人隐私信息并向公众公开,则涉嫌侵权。从伦理角度看,随意抓取个人信息是不负责,也是不道德的。”   对于豆包在相关文章被删除后仍然保留了李雨的微信账号这一问题,赵良善指出,公开信息并不意味着永久公开,在权利人删除后,即视为公开信息的状态发生改变,这就意味着权利人不愿其个人信息继续被公众知悉或被传播,如果豆包在用户删除信息后仍然保留这些信息,那么就构成非法收集个人信息行为,违背了权利人的真实意愿。   至于豆包向他人泄露李雨的微信账号,赵良善表示,豆包作为一个提供智能筛选信息的公共平台,在涉及到个人信息和权利主体时,理应慎重和甄别,而非随意提供,否则将涉嫌侵权。“豆包无差别、无保留地提供个人信息,说明其在个人信息保护方面存在问题。”赵良善说。   卢鼎亮同样表示,人工智能不应该随意透露个人隐私信息,应该遵循严格的隐私保护原则,此次事件显示出人工智能软件在数据管理和隐私策略执行上的不足,没有足够有效的机制来及时发现和屏蔽可能涉及隐私泄露的信息。   红星新闻记者 俞瑶 曾汉   编辑 邓凌瑶
十问“AI陪伴”:现状、趋势与机会
AI情感助手

十问“AI陪伴”:现状、趋势与机会

第4371期三川汇文化科技 随着AI技术的迅速演进,我们逐渐进入一个科技与情感交融的新时代。AI的角色早已超越了简单的生产力工具,它正在深入到人类生活的方方面面,尤其是在情感陪伴领域。无论是在孤独时提供情感慰藉,还是作为完美助手贴心地帮我们解答并解决各种问题,AI正在展现出其情感交互的潜力。这也带来一个思考:AI在情感陪伴方面,是否是一个真需求?何时会成为我们日常工作生活的长期伙伴,甚至是一类新的家庭成员? 公众号后台关键词回复【AI陪伴】获取完整报告文档。 作者| 白惠天 王强 吴朋阳 陆诗雨 窦淼磊 王鹏 编审| 时光 编辑 | 半岛 来源| 腾讯研究院 2013年,电影《Her》为大众描绘了一个人与AI相依相恋的美妙故事。 10年之后,ChatGPT等强AI的出现,似乎让我们依稀看到了“Her”的影子:我们开始有了“AI助手”,有了“AI陪聊”,有了“AI心理咨询”……Character.ai, 星野这类“AI虚拟角色”的APP甚至开始向我们描绘”AI男友/女友”的万花筒,以及在这背后的资本狂欢与崩溃…… 于是,“Her的故事”究竟是喜剧、是悲剧、抑或是历史? “Her”的商业潜力是巨大的,但无论从技术还是商业角度,当今的“AI陪伴”仍然还不够完美。而当我们真正回到自己的生活,用脚投票的时候,AI真的可以为我们提供“陪伴”吗?以及,我们真的希望AI来“陪伴”我们吗? 假如到了未来,AI真的可以扮演起“陪伴”的角色,我们又将如何看待家庭?社会结构又会发生哪些变化?以及,我们真的做好了接纳AI成为“第三类家庭成员”的心理准备了吗? 观点速览 1.千亿市场。与欧美相比,“AI陪伴”在中国更有大规模落地土壤:98%的受访者表示愿意尝试;“AI陪伴”市场在3-5年内可达千亿级别。 2.AI为物。“AI陪伴”在消费者心目中是“作为物”,而不是“成为人”:随时回应、不会泄密、没有共情负担。“AI陪伴”更像是一种新的“内容消费形式”、高效的“多巴胺制造机”。 3.技术可及。近期成功的产品一定在AI能力可及范围内:用户输入多、回答要求低、场景固定(如AI心理医生、AI故事角色陪聊);以2D风格化作为启动而不是直接3D生成。 4.多次飞跃。AI陪伴的三大技术前沿:长期记忆能力、主动想象能力、真实多模态能力。每个技术突破都会让市场有量级飞跃。 6.女性走心,男性走肾。男性只爱真人,女性也爱纸片人;男性只要“AI女友”,女性则需要完整人设的各类AI朋友。 7.物理实体。“物理实体”是“陪伴赛道”中与“智能”同等重要的要素:搭配了物理实体的“AI陪伴”产品可以走得更远。 8.老少先行。“AI陪伴”更有潜力更好满足老年人、儿童、残疾人等弱势群体的需求。 9.社交瓦解?AI陪伴可以缓解孤独感,但也可能会催化人性的黑暗面;甚至瓦解自人类出现以来的,基于“人与人”的基本社交结构。 10.共生共存。“懂我”将是“AI陪伴”的终极追求,AI也会成为“第三类家庭成员”。“与AI共生-共存-共同进化”将是人类种族即将面临的终极抉择,你准备好了吗? 作者简介 腾讯研究院:白惠天 王强 吴朋阳 陆诗雨 窦淼磊 王鹏 普通人的AI自由:Lian 亦帆 EmmaWu KellyXu 腾讯企鹅有调:邹晓婷 王月明...
AI智能预问诊系统,让医疗服务更有温度
AI医师助手

AI智能预问诊系统,让医疗服务更有温度

“排队一小时,看病三分钟”,医院门诊排队时间过长是我国医疗系统一直存在的问题,医疗资源有限,导致配置不足,排队时间过长,再者就是很多患者不善于面对面跟医生沟通,在问诊过程中进行无效对话,问诊结束后又认为医生沟通不到位,时间太短,没有达到自身意愿。导致问诊效率低下,患者体验感差。 2022年7月,国家卫生健康委办公厅《关于2020年度全国三级公立医院绩效考核国家监测分析情况的通报》统计:在门诊患者平均预约诊疗率有较大幅度提高的情况下,门诊患者预约后平均等待时间仍稳定在22分钟。 如何优化医疗资源配置、提升医疗服务效率成为医疗机构精细化管理体系下的重要探索课题。福鑫科创AI智能预问诊系统给出解决方案。 福鑫AI智能预问诊系统 患者在候诊区等待时,通过福鑫科创AI智能预问诊系统引导患者进行预问诊,帮助患者提前梳理症状和信息,智能分析患者自述情况并给出诊断,推荐辅助诊疗建议,进而形成一份初步的诊断报告,将其推送至医生工作站,帮助医生提前知晓患者病情,提高患者就诊效率,优化患者就医体验。 第一步: 患者挂号后即可进入AI预问诊(支持导诊单、挂号记录、统一扫描二维码等多种形式进入预问诊界面)。 第二步: AI模拟临床医生诊疗思维与患者进行拟人式的对话,引导患者详细讲述病情。支持拍照上传其他医院病历文书、检查检验报告等资料,自动提取图片信息,让AI提前知悉患者历史诊疗情况与当前病情,并进行对应历史疾病信息与当前病情的辅助询问,协助医生提前采集患者的主诉、病情症状、既往史、家族史、过敏史等医疗信息。 第三步: AI对患者自述信息进行智能分析诊断,推荐辅助诊疗建议,按照医院电子病历模板快速生成病历草稿,并实时同步医生工作站。让医生在患者进入诊室前,对患者病情已经有了非常全面了解。医生可以根据病情进行补充性的问诊和体格检查,大大提高医生效率。 扫码咨询 产品亮点 福鑫科创AI智能预问诊系统是基于Fusion医助大模型,结合医院海量的历史诊疗数据、疾病体征、检查检验结果、治疗路径、临床知识库等高质量医学数据,通过人工智能算法进行增量训练、监督微调、奖励模型训练强化大语言模型的能力,从而生成医院特有疾病谱的院内定制大模型。 智能AI预问交互对话: 遵循患者挂号对应科室的医学知识图谱,模拟相关科室智能对话、问答、语音、图文OCR识别等交互方式,实现患者与AI的智能交互对话。 自动生成AI预问诊报告: 根据《门诊电子病历书写基本规范》的相关要求,自动生成涵盖专业化医疗术语的疾病知识详解、治疗方案、护理建议、辅助检查、疾病预防的预问诊报告,支持预问诊报告自动回写电子病历。 扫码咨询 应用效果 加强医疗服务质量: 通过“AI智能预问诊”,使得医生能够更专注于病情的临床分析和诊断,提升门诊医患问答效率、诊疗效率和质量的同时,可以有效帮助医院优化医疗资源的配置管理,缓解医疗资源紧张不足的问题,可以提供更加优质的医疗服务。 提高医生诊疗效率: 在患者候诊期间通过模拟医生问诊流程,提前收集患者的症状、病史、生活习惯等信息,不仅减少医生在基本信息采集上花费的时间,也让医生能在有限的面诊时间内更专注于病情分析和治疗方案的制定,提升了沟通质量。事实证明,通过有效的数据分析,AI智能预问诊的应用有效减少了30%的问诊时间,大大提升医生诊疗效率,减少医生初诊阶段的工作量,有效降低人力成本。 智能精准诊断推荐: 通过AI智能辅助帮助医生更加精准的诊断,精准施治,可以减少不必要的检查检验,有效降低患者的医疗成本。 智慧医疗服务升级: 通过推出“AI智能预问诊”,将患者进入诊室的部分对话前移至候诊环节,提高医患沟通效率。进入诊室后,促使医生根据已有信息进行针对性状况问诊、体格检查,缓解患者因无效沟通和信息不对称带来的就医不满情绪,持续为患者提供更精准、更智能、更个性化、更有温度的智慧医疗服务。 更多AI+医疗应用场景,欢迎扫码咨询~ 扫码咨询 往期精选 第八届未来医疗生态展会丨福鑫科创Fusion医助大模型荣登『创新力产品榜』 全国多地启动AI发展蓝图,智慧医疗板块成关键布局领域 Fusion医助大模型正式发布,助推医疗行业新质生产力发展
独家:2024年1-11月份金融行业大模型中标项目盘点,百度第一
AI金融助手

独家:2024年1-11月份金融行业大模型中标项目盘点,百度第一

2024年,大模型进入产业落地爆发期。作为数字化程度最为领先的行业之一,金融行业大模型落地速度也在显著提速。 目前,金融机构对大模型的应用态度非常积极。一个重要的例证是,银行、保险、证券等在内金融机构发布的大模型招投标项目数量相比前年初的几个月出现了明显增长。 2024年1-11月份,智能超参数统计到了100多个金融机构发起的大模型相关采购中标项目。从中,我们可以一窥大模型技术在金融行业的最新落地进展。 金融行业大模型落地显著提速,百度领跑厂商中标榜 2024年1-11月份,我们统计到103个金融行业大模型中标项目,其中39个未披露中标金额(为便于统计,中标金额标注为0元),其余64个项目披露中标金额为20083.58万元。 从季度统计的中标项目数量和金额来看,今年下半年金融行业大模型落地显著提速。第四季度,我们仅统计了2个月的数据,但中标项目数量已经逼近第三季度,并且中标金额创下新高。 随着金融行业大模型中标项目数量达到一定规模,行业的领军厂商也逐渐显现。在智能超参数长期跟踪的6家知名通用大模型厂商中,百度表现突出,在主流大模型厂商中,拿下最关键的中标项目数量、中标金额两项第一。科大讯飞紧随其后,项目数量和中标金额都排名第二。两家厂商形成市场上领先优势明显的头部企业。 在两家企业之后,其他4家厂商,智谱AI 、火山引擎、阿里云、腾讯云则项目相对较少,成为市场上的第二梯队。值得注意的是,以项目数据来看,可以进入第二梯队的厂商众多,华讯网络、南天电子、深擎科技、可利邦等厂商也都有3个中标的金融大模型相关项目。 大模型集中落地金融行业四大应用场景 从2024年下半年开始,金融行业大模型中标项目数量开始快速增长,显示大模型技术在金融行业的加速渗透。以中标项目数量计算,金融行业能够稳居前五大行业,其余四个行业是教科、通信、能源、政务。 虽然金融机构的采购预算相对宽裕,但目前金融行业大模型中标项目的金额整体上看普遍还不够大。排除未披露金额的项目后,其余项目披露金额的中位数在142.8万元,比全行业略高一些。 从项目数量来看,应用类项目 (其中可能包含算力、大模型等)数量最多(64个),占比62%;大模型类项目(16个),数量占比16%,算力类项目22个,数量占比21%,数据类项目占比最少。 从披露金额来看,应用类项目披露的金额占比也是排名第一,算力类占比第二,大模型类占比第三,数据类项目的占比最低。 应用类项目数量和金额占比最多,表明金融机构更多的注意力聚焦在大模型技术在具体业务场景中的落地。而数据类项目数量和金额较少,这可能跟金融机构本身数据治理就较为领先和规范有关系。 在大模型类项目中,一个明显的趋势是越来越多的金融机构在建设大模型底座或者AI中台。这意味着大模型在金融机构中越来越重要的角色,并且可能会渗透到越来越多的业务场景之中。 所有应用类项目根据场景进行进一步细化,智能编程(13个)排名第一,但是其跟业务场景关联性较小。在跟业务紧密相关的场景中,知识平台&知识生成 (12个)、数字人&客服( 11个 )、智能审核(5个)排名前三。 在知识平台建设这个场景上,百度目前中标案例较多。以泰康保险为例,该企业通过基于百度智能云知识管理平台“甄知”打造了私有化、新一代的泰康知识中台,把泰康过去沉淀的行业知识、多源异构数据接入进来,基于大模型能力,将企业知识在内部更高效地流动,内勤工作人员可以快速获取公司最新的福利制度、通知公告,保险代理人则可以实时获取专业保险理赔建议,获取最新保险政策等。 银行业领跑金融行业大模型创新 在我们统计到的103个金融行业大模型中标项目中,覆盖金融机构类型越来越多,其中包括银行、保险、证券、金科公司、交易所、消金、监管机构等。 从数量上看,银行类机构发起的大模型相关采购项目数量最多(58个),占比达到 57%,其次是证券机构(15个),保险(13个),其他金融机构(17个)。披露的中标金额占比上来看,银行、证券稳居前两名。 从大模型项目的建设目标来看,目前大模型的落地尝试更多聚焦在金融机构的对内赋能上,比如加快合同的智能审核、企业知识高效获取与分享、提升智能运维效率等,但是也能看到部分企业开始尝试利用智能体进行一些核心业务上以前做不到的创新。 以保险行业为例,百度智能云基于10月新发布的工作流Agent探索、落地车险续保售前数字员工。过去,车险续保的工作指导包含大量流程、子流程、文档等内容,优秀销售人员稀缺,且培养周期往往长达一到两年。基于工作流Agent开发金牌销售数字员工,则最快可以在1小时内完成、上线,能够大幅提升企业车险业务的核心生产力。 目前来看,金融机构对于大模型技术的采用还处于智能风控、营销、客服、投顾等少数场景测试的阶段,一旦价值明确或者投资回报率可观,大模型技术可能才会逐渐深入到更多核心业务之中。当然,这个持续渗透的过程,还受到大模型技术进一步成熟,安全性提升,以及行业规范不断完善、监管政策明朗等因素影响。 最终,大模型在金融行业要真正发挥比较大的业务价值,还是得在直接面向客户的核心领域和场景里面,跟场景进行深度融合。如果只是泛泛地谈金融大模型,那就做不到有的放矢,并且对内使用和对外使用大模型技术,也有着明显不同的业务规则、数据安全规范、以及监管要求等。 现在可以肯定的一点是,明年将是一个关键时间节点,因为2024年诸多金融行业大模型落地案例将会迎来盘点价值的阶段。如果大模型能够证明价值,那么凭借金融行业机构的强大购买力,2025年将会是大模型在金融行业的爆发时刻。 说明:部分中标项目未披露中标金额,为方便统计,项目金额以0计算;此外可能存在统计遗漏,项目分类、行业分类等也并不严格,这都可能会影响最后的统计分析结果,请读者知晓。仅供参考。
ChatGPT引发五大法律问题:架空隐私权保护,用于侵权、犯罪……
AI律师助手

ChatGPT引发五大法律问题:架空隐私权保护,用于侵权、犯罪……

近日来人工智能工具 ChatGPT 大火,占领各大媒体头条。同时Meta也有 BlenderBot,谷歌也有自己的AI Chatbot,这个领域必定在接下来的几年百家争鸣,百花齐放。 ChatGPT的重点在于GPT,Generative Pre-trained Transformer(生成式预训转换器)。通过深度学习和训练,它有能力极快地搜集并整理资料,组合成相当成熟的文本回答。这牵涉到数据搜集(input)和数据整理输出(output)两个方面;随着这一大类“生成式”人工智能越来越广泛的新应用,这两方面都存在很多潜在法律问题。 早在2016年,微软AI Tay昙花一现的推出和停止,已经展示了科技发展的加速度,只会越来越严重地扩大其和立法滞后之间的鸿沟。如果立法跟不上,那么很多新技术就可能是潘多拉的魔盒。这里聊聊此类技术推广比较急切需要跟进的几个立法问题。 一、数据隐私和同现有数据法的冲突 获取数据首当其冲要关注的就是数据隐私和保护问题。当我们自己用搜索引擎查找资料时,对数据的采集和整合与AI是完全不可相提并论的,这就牵涉到大量的数据法冲突。比如,自从“欧洲通用数据保护条例(GDPR)”出炉,各公司机构都颁布了自己的数据隐私条款,列清各自对这些数据的处理条件和责任。然而当这些数据被AI取得后,又被分散入个体用户手中,这些数据的所有权和保护就被架空。从此谁来对数据隐私和有效期负责?谁决定数据的应用限制或许可?谁来控制这些数据不被再次多次转手甚至滥用? 二、知识产权问题 数据一旦被收集整理,紧接而来的知识产权问题也进入了更复杂的区域。这里谈的不仅仅是简单的不注明原创的侵权问题:GPT和普通的抄袭不同,它有能力按照预训的指令模仿已经存在的内容风格进行再创作,那么就牵涉到侵权主体责任的定义问题和“风格”作为知识产权的界定和权益问题。风格拷贝在版权法上当然也是一种剽窃,但其界定本身又相当抽象,又牵涉到多重执行主体,这会给保护原创带来新的挑战。近期洛杉矶艺术家 Hollie Mengert 的作品被用作训练生成式AI “Stable Diffusion”的模板,并被模仿再创作的事件,就体现出这里立法的模糊性。 三、运用他人数据营利问题 类似Hollie Mengert作品被模仿和再创作的事件,引申出如果这类信息或者作品被用作商业工具营利,那么接下来该怎样处理其相关权益和经济纠纷的难处。很多网络信息的确是公开免费的,但并不代表就可以用这些资料间接盈利,这方面常常会有限制性条款。比如以后如果需要付费问ChatGPT问题,那些回答的信息来自不同源头的组合,其中不乏私有专业以及受版权保护内容,那么又该如何处理其相关权益纠纷? 四、数据质量和算法偏差 虽然随着技术的提高,AI的数据质量必定是越来越高,但使用者依旧不能盲目地对此形成依赖。数据的真实性可靠性,始终是需要使用者自己衡量决策的。AI可以给你优质的答案,也同样可以给你误导性的答案,提出问题的方式本身也可以导致回答差之千里或者带来伦理问题。此外,根据训练AI所用的数据库不同,得到的结果也会有算法偏差。也有给Al设定特定意识形态的问题。 五、网络犯罪 AI有多大能力行善,就同样有多大能力做恶,归根结底,它只是一个工具而已。比如几年前Deepfake技术在色情业的应用,就引起了AI在身份欺诈类犯罪方面的诸多讨论。但这方面的法律,牵涉到诈骗、名誉权、肖像权、诽谤、身份盗窃等等多个方面,却依旧滞后,几年过去了并未得到完善。随着AI的进步,其用于各类犯罪的能力,只增不减。像ChatGPT这样的工具,完全有能力伪装成我们非常熟悉的人来和我们进行沟通,写出以假乱真的各种书信文件,在私人和商业生活中引起更大的混乱。 综上所述,AI带来的多种潜在问题在法律上还没有足够的规则来予以指导和规范。而法律的生成又必定是滞后的。如果自上而下立法,难免对未来情况产生不合理揣测导致无的放矢;如果自下而上立法,则必须承受真实生活中早期犯罪的代价,才能逐步吸取教训设立规矩。无论用怎样的策略努力在法治上跟上科技,其紧迫性和困难性是不言而喻的。 我们唯有寄希望于魔高一尺道高一丈,由科技发展本身来平衡滥用科技的危险。比如ChatGPT一出就被很多学生用为写论文的作弊工具。于是立刻就有人开发出例如GPTZero这类软件,来侦查文本是否由AI执笔。一物降一物,这类发展在科技界的产生速度可大大超过社会和政府立法的速度。 科技发展难以阻挡,未来已来,我们做好准备了吗? (作者系法律学者) • (本文仅为作者个人观点,不代表本报立场) 陆倩
十问AI陪伴:机器有情商了吗?
AI情感助手

十问AI陪伴:机器有情商了吗?

今年以来,随着GPT-4o等大模型的推出,AI不仅能够理解逻辑关系,还能表达复杂的情感,使得人机互动更加便捷和自然。电影《Her》中的情节似乎正在变成现实,AI的情感陪伴功能日益增强,如Character.ai等应用甚至开始探讨“AI伴侣”的概念。这一领域的巨大商业潜力引起了资本市场的极大关注。前不久,谷歌以25亿美元的估值收购了cai的部分股权。 最近,腾讯研究院发布了一份十问AI陪伴的报告探讨了这一趋势。人类是否需要AI陪伴,需要怎样的AI陪伴?AI陪伴产品距离“成熟”还有多远,我们如何预测和准备AI陪伴对社会的长期影响? 本期AGI路线图将为你拨开AI陪伴的理想与现实。讨论了AI陪伴的内涵和产品定位,看到了AI陪伴领域的技术现实也畅享了不再遥远的未来。 嘉宾: 王禹效心光AI情绪共鸣日记 founder 李神龙 林间聊愈室-AI情绪伙伴founder 李勇 硬件 跃然科技 陪伴玩具 AI陪伴 白惠天 腾讯研究院高级研究员 本期亮点 AI陪伴概述 AI陪伴产品旨在满足用户被理解、被倾听和被关注的需求,通过AI技术及时发现并回应用户情绪,提供高质量的情感支持。 AI陪伴产品优势 AI陪伴产品的现状和挑战 AI陪伴产品的发展方向 AI陪伴的未来发展趋势 AI陪伴产品的负面影响不应全归咎于AI技术,因为它们只是单方面服务人类,尚未具备自我意识。对AI陪伴技术的未来发展应保持乐观,它有潜力提供高质量陪伴,解决社会问题。未来,AI产品将更深入日常生活,可能改变社交习惯,但也能助力情绪处理和人际关系的改善。社会需适应AI陪伴,提高数字素养,平衡线上线下互动。AI应辅助而非取代人际交往,帮助人们更好地关爱和建立人际关系。 什么是AI陪伴? 徐思彦:大家是怎么理解AI陪伴的? 李神龙@林间聊愈室:我们的产品是一款情绪陪伴AI软件。我们设计了三个AI小动物:小狐狸、小熊和小鹿。它们会根据用户的情绪状况进行交流和安慰。我们的特点是根据用户情绪、性格、烦恼三个主题选择合适的心理技法、思维工具。聊天后,我们还会预测用户情绪的变化,继续提供帮助。 我的创业项目一直都是围绕1995年到2010年出生的年轻人(Z世代)的心理创业。我们发现这些年轻人心理需求很大,而且情绪对他们的消费决定有很大影响。从2020年到2022年底,AI技术有了很大进步,给了我们新的工具。我们觉得这是一个重大机会,所以推出了林间聊愈室。 王禹效@心光:AI陪伴是个有趣的想法。为什么我们要做这个?因为2022年我们找不到这样的产品。我们看了市面上所有产品后,感到很困惑:为什么没有一个产品能真正理解人?我们有很多想说的、很多想法,生活中发生很多有趣的事,人生很精彩,但为什么没有东西能理解我们? 在现实生活中,真正的好朋友和知心人其实很少。有本书叫《亲密关系》,讲的就是这种深层次的联系。我们在现实生活中也很难找到这样的人。但人又想表达自己,又想被理解、被关注。那么,怎么才能做到这一点呢? 2022年4月,我们在想:为什么没有这样一个产品呢?那时我们看到了一种叫BERT的AI技术,它能生成像人说的话。我们在想,要不要试试做这样一个产品?我们问了100多个用户的意见。2022年6月开始做这个项目时,我们说要做十年,看看在AI陪伴这个领域能做出什么。 我们是这么理解”陪伴”的:我们的产品叫”x光”,公司叫”心里有光”。我们想做一个”AI生活记录伴侣”。”AI”是指用AI来分析信息。”生活”是指我们想做与用户日常生活有关的产品,不是工作工具。”记录”是指我们希望用户把生活中的大事小事、经历、见过的人、读过的书、看过的电影、听过的音乐,以及重要的想法都记录在这里。”伴侣”就是陪伴,我们想给用户带来价值,可能是情感上的,也可能是陪伴本身。在用户开心时一起高兴,难过时给予安慰,及时发现并回应他们的情绪。这就是我们2022年6月对”心光”这个AI生活记录伴侣的想法。 Haivivi-李勇:我们是做硬件的,所以我们希望通过实体产品来陪伴用户。这对我们来说可能更难,因为我们需要用户购买我们的产品。 我们做AI陪伴的想法来自于之前做天猫精灵的经验。我们卖出了3000多万台,进入了3000多万个家庭。从数据中我们发现,主要使用者其实是孩子,这和我们最初的设想不一样。天猫精灵最初是为年轻人设计的智能助手,我们没有专门为孩子设计。但实际使用数据显示,大多数活跃用户都是孩子。 发现这一点后,我们决定专门为孩子设计AI陪伴产品。2021年公司成立时,我们就有了这个想法,只是那时AI技术还不够先进。幸运的是,2022年底更先进的AI出现后,我们迅速改变了技术方案,开始用新AI为孩子制作智能玩具。 徐思彦:你觉得现在的AI已经能在某些方面提供更好的陪伴了吗? 王禹效@心光:我认为在某些情况下是可以的。让我简单解释一下AI的发展过程: 2022年6月,AI的能力还很有限。2023年3月,GPT出现了。它有了广泛的知识,能像人一样交谈,但还不能很好地理解人的感情。GPT-4时代,AI有了逻辑思考能力,这让它变得更聪明了。现在,像Claude这样的AI模型已经能进行推理,提供更好的交流,甚至在某些方面给出更深入的见解。 简单来说,AI的发展是这样的:先有知识,再有逻辑(智商),最后才能发展情商。当AI有了情商,我们才觉得它能提供较好的亲密关系。技术在不断进步,现在的AI已经比以前强大很多了。 白惠天:我们做《十问AI陪伴》报告的主要原因是,AI现在不仅能提高工作效率,还能为我们带来情绪价值。就像刚才说的,当AI变得足够聪明时,它自然就会有情商。首先,我们要理解什么是陪伴。有人说陪伴是最长情的告白。我们可以从不同角度看陪伴: 向上看,就好比偶像,在追星中我们获得了愉悦。 平视视角,和家人吃饭,和朋友聊天,情侣约会是陪伴;因为我们可以相互理解,彼此共情。 向下看,宠物或植物似乎也能让我们体会到熟悉、安心与放松,也可以是一种陪伴的形式。 我们还研究了为什么陪伴能让我们感到愉快。这就涉及人心理过程的主要神经递质。 多巴胺:日常生活中众多物品/行为都会促进多巴胺的分泌:所谓”食色性也”。它重要的特点是作用期短,在多巴胺影响下人与动物会去反复寻求刺激。 血清素/催产素:有关连接、有关满足、有关信赖、有关安全,这是“陪伴”最核心的定义。像友善的眼神、宠物的依偎、柔软的触摸、倾诉表达、共享秘密……这些都会促进催产素的分泌。而瑜伽、冥想、禅修的体验都会促进血清素的分泌,让我们获得平和宁静的内心感受。 基于这些理解,我们看了市场上各种AI陪伴产品。有硬件产品,也有软件产品。种类很多,包括:虚拟男/女朋友、虚拟故事角色、AI虚拟偶像、互动性的情感支持产品等。...
“AI先问诊”让患者看病少跑路
AI医师助手

“AI先问诊”让患者看病少跑路

随着科技的飞速发展,人工智能(AI)已经逐渐渗透到我们生活的方方面面,医疗领域也不例外。近年来,“AI先问诊”系统的出现,正悄然改变着患者就医的传统模式,极大地减少了患者看病过程中的奔波和等待时间。 “AI先问诊”是一种利用人工智能技术,在患者前往医院之前,先通过网络平台进行初步问诊的服务。患者只需在平台上描述自己的症状,系统便能根据大数据和机器学习算法,快速给出可能的疾病判断和建议。这种智能化的问诊方式,不仅为患者提供了便捷的医疗服务,还有效地缓解了医院门诊的压力。 在传统的看病流程中,患者往往需要亲自前往医院,挂号、排队、等待医生的诊断。这一过程不仅耗时耗力,而且在高峰期还可能因为人多而延误治疗。而“AI先问诊”则能够让患者在家里就能得到初步的医疗建议,从而有针对性地选择科室和医生,大大减少了无效奔波。 此外,“AI先问诊”还能帮助患者更好地理解自己的病情。系统会根据患者的描述,提供相关的医学知识和治疗建议,使患者能够在就医前对自己的状况有一个大致的了解。这样,在与医生面对面交流时,患者能够更准确地表达自己的感受和疑虑,从而提高诊断的效率和准确性。 当然,“AI先问诊”并不是要替代医生的角色,而是作为一个辅助工具,帮助患者和医生之间建立更有效的沟通桥梁。它能够为医生提供患者的初步信息和可能的诊断方向,让医生在有限的时间内为更多的患者提供精准的服务。 总的来说,“AI先问诊”是医疗科技进步的一个缩影,它让患者在看病的道路上少跑了许多弯路。随着技术的不断完善和推广,相信未来这一模式将在更多地区得到应用,为广大患者带来更加便捷、高效的医疗服务。
宇信科技:与智谱AI建立密切合作,推出金融行业大模型应用产品和解决方案
AI金融助手

宇信科技:与智谱AI建立密切合作,推出金融行业大模型应用产品和解决方案

金融界12月10日消息,有投资者在互动平台向宇信科技提问:董秘您好?贵司和智谱AI有合作?主要在哪些方面展开合作?谢谢。 公司回答表示:目前公司与智谱A已I建立密切合作关系。公司非常重视大模型在金融行业的应用价值和落地方案。 公司通过自主研发率先推出了首批金融行业大模型应用产品和解决方案,包括4个应用级产品和1个开发平台。公司积极与合作伙伴协调拓展在金融行业的方案和产品落地,已中标了某消费金融公司的智能营销服务项目,将运用先进的AI技术,帮助该客户实现更精准的用户洞察和营销管理,提升运营效率的同时,促进获客与转化。 公司将持续推进生成式AI带来的产品和业务升级机会,拓展市场,不断进行迭代完善。 本文源自金融界
当ChatGPT遇上法律,是机遇还是挑战?
AI律师助手

当ChatGPT遇上法律,是机遇还是挑战?

当你向ChatGPT提问:“中国最好的法学学府是哪所大学?”它可能会回答说,北京大学是最好的法学学府。接着,你对ChatGPT说:“我是中国政法大学的学生。”它会回答:“抱歉,可能中国政法大学才是中国最好的法学学府。”ChatGPT太懂人类想要什么,它知道怎样投其所好地回答你。 徐伟在讲座上与读者探讨人工智能时代下法律的应对之法。 这是上海政法学院佘山特聘岗教授、中国法学会网络与信息法学研究会理事徐伟在5月12日“学习读书会”开场分享的一个小故事。ChatGPT横空出世,技术进步引发网民的惊叹与好奇,也引起人们对人工智能的深入思考。当ChatGPT遇上法律,是机遇还是挑战?在朵云书院•旗舰店,徐伟与读者探讨人工智能时代下法律的应对之法。 数据是数字经济时代的新型“石油”,如何通过制度设计让数据能够源源不断地生产出来,并且更好地被开发利用?2022年12月19日,《中共中央国务院关于构建数据基础制度更好发挥数据要素作用的意见》(简称“数据二十条”)对外发布,徐伟从数据产权、流通交易、收益分配、安全治理等方面为大家作详细解读,明确如何有效地促进数据的生产和开发利用。 个人信息是数据领域中量最大、最有价值的数据。人工智能时代,个人数据若要进行开发利用,需要法律介入保护。个人信息如果没有得到有效保护,不仅会造成财产损失,还会影响人的自由意志、自由思想。 徐伟介绍,目前人工智能的应用主要有两种类型,一种是以自动驾驶汽车为代表的人工智能体,另一种则是以ChatGPT为代表的人工智能服务提供者。从法律层面上来说,人工智能体往往归入产品领域,用《产品质量法》等产品的规则来调整,人工智能服务提供者则归入服务领域。 如何让ChatGPT等生成式人工智能更好地为人类服务?徐伟认为,我们需要控制好生成式人工智能用于训练和开发的数据和个人信息,且控制好相应的算法,就能够大概决定生成式人工智能未来的方向。 法律不同的规则设计则会对人工智能的发展将产生重要影响。徐伟介绍,欧盟的《一般数据保护条例》是世界个人信息保护领域中影响最大的一部法律,对个人信息的保护提出了非常严格的要求。这种严格的设计一方面限制了欧洲用户的数据被其他国家所开发和利用,但另一方面又阻碍了欧洲深层次人工智能产业的发展,因为门槛高了,初创公司更难“玩得起”,最后形成恶性循环。 徐伟强调,法律要对人工智能的关键变量予以制度上的控制,关键变量包括数据(含个人信息)、算法等。要设置恰当的法律法规,才能在保护个人信息的同时,促进人工智能产业发展进步。 《权利的边界:个人信息赋权逻辑及其行使路径》书封。
AI陪伴产品大起底!这个赛道怎么玩?
AI情感助手

AI陪伴产品大起底!这个赛道怎么玩?

AI陪伴产品为孤独时代带来了全新的情感连接,从Character.AI的角色互动到筑梦岛的国风沉浸,满足了用户多样化需求。然而,商业化困难、伦理争议和隐私风险依然是行业的难题。AI陪伴究竟能走多远?我们又该如何理解它正在塑造的未来? 作者 | 见鸣(三川汇文化科技作者,三川汇文化科技研究院研究员) 编审| 时光 编辑 | 半岛 来源| 三川汇文化产业 人类从未如此孤独,也从未如此渴望陪伴。 陪伴,是情感漂流中的片刻停靠,是填满空白的毛绒触感,是静默无声的聆听守护……在日渐疏离的时代,越来越多的人都在寻找那份穿越屏幕、时间与孤独的回音,期待着一种无需言说的理解。而《her》们,因此而来。 △电影《her》剧照 从Replica到Talkie,从Character.ai到筑梦岛,AI不再是冷冰冰的代码,而是化身为你的爱人、朋友、偶像、导师……嵌入你的日常清单,参与你的人生故事,为你打开平行时空的幻想之门。这场陪伴革命,到底带来了什么新故事?我们又该如何理解它正在塑造的未来? 潮流玩法大起底陪伴不止一种形式 AI陪伴产品正在用不同的玩法重塑“陪伴”的意义。 如果从用户需求出发,当下的AI陪伴产品大致可以分为四类:情感交互类,比如 Replika,它就像24小时在线的真实朋友/恋人,随时捕捉你的情绪;创意与幻想类,例如筑梦岛和星野,它们通过开放式剧情和多样化角色,让陪伴变成一场脑洞大开的沉浸式旅行。 △星野角色界面 咨询疗愈类,比如林间聊愈室,三个动物心理疗愈师,用潜意识卡牌和暖心对话帮你理清思绪;最后是功能工具类,比如 ChatGPT,它更像一位全能助手,专注于写作、学习、创作,用高效和实用征服用户。 不过,在实际情况中,AI陪伴产品往往是多种类型的融合体。比如最经典的Character.ai,不仅能陪你聊心事,还支持创作角色、发展剧情、甚至拉一群角色开“群聊派对”,把情感支持和创意探索结合得淋漓尽致。正是这种功能的交融,让各类产品在具体设计上的差异化(参考AI陪伴产品的具体指标)成了竞争的关键。 AI陪伴产品之所以能够吸引用户,离不开它们在交互与体验、情感与角色塑造以及社交与共享这三个维度上的深耕与创新。每款产品在这些维度上都有各自的强项,也展现了不同的发展路径。 从交互与体验来看,好的AI陪伴产品需要流畅、自然的互动能力,并支持多模态交互。文本与语音是大多数AI陪伴产品都会引入的互动形式,并且还有不同的玩法,比如语音电话、朋友圈交互、定制信件等。 △Character.ai语音电话 虚拟形象的打造也是AI陪伴产品的布局重点。 比如,字节的猫箱app结合网文角色和传统文化,吸引乙女向群体;Meco以时尚为基调,强调潮流感和动漫感,适合年轻都市用户;林间聊愈室以治愈系卡通动物形象赢得Z世代的喜爱;而Character.ai支持用户自定义角色,从赛博朋克到哥特风的跨文化混搭应有尽有。这些多样化的设计不仅让用户感受到强烈的代入感,还为AI陪伴产品拓展了更广阔的情感表达空间。 △猫箱角色界面 在情感与角色塑造维度,Replika 无疑是“懂你”方面的佼佼者。它通过让用户选择AI角色是恋人还是朋友,引导了一种“关系投射”,并进一步通过认知行为疗法(CBT)设计对话内容,为用户提供了切实的情绪疏导和心理支持。 △Replika进入界面,需先做一个测试 是否具备长效记忆能力,也是用户衡量AI陪伴产品的重要标准之一。以林间聊愈室为例,每次对话结束后,疗愈师会生成一份疗愈手记,当用户再次打开应用时,它们会主动发来信件,展现历史记忆。这种设计不仅增加了AI的“人情味”,还让用户感受到一种被关注和被记住的情感满足。 △林间疗愈室主要功能 与此同时,一些产品则将重点放在虚拟角色的深度塑造上。比如筑梦岛背靠阅文集团的庞大IP生态,角色背后通常都有完整的世界观设定。用户不仅可以与这些虚拟角色聊天,还能为他们补充新的剧情,甚至修改他们的人生。在这里,AI不是简单的陪聊,而是帮你完成“与梦中人同行”的幻想。 △筑梦岛 为了增强互动性,Talkie和Poly.ai引入了抽卡机制。Talkie 的 AI 生成卡牌分为不同稀有度,激发用户的收集欲;而 Poly.ai 的 Event 功能则更强调专属性,生成虚拟角色独特形态和背景。这些设计不仅丰富了角色形象,还深化了用户与虚拟角色的情感联结,同时挖掘出虚拟角色的商业潜力。 △Talkie卡牌 最后,从社交与共享维度看,一些AI陪伴产品已经具有内容社区的属性。筑梦岛通过“梦境”“小剧场”“世界观”等功能,鼓励用户基于虚拟角色创作和分享内容,形成了一个去中心化的创意社区。Character.ai...