lida

近日来人工智能工具 ChatGPT 大火，占领各大媒体头条。同时Meta也有 BlenderBot，谷歌也有自己的AI Chatbot，这个领域必定在接下来的几年百家争鸣，百花齐放。 ChatGPT的重点在于GPT，Generative Pre-trained Transformer（生成式预训转换器）。通过深度学习和训练，它有能力极快地搜集并整理资料，组合成相当成熟的文本回答。这牵涉到数据搜集(input)和数据整理输出(output)两个方面；随着这一大类“生成式”人工智能越来越广泛的新应用，这两方面都存在很多潜在法律问题。 早在2016年，微软AI Tay昙花一现的推出和停止，已经展示了科技发展的加速度，只会越来越严重地扩大其和立法滞后之间的鸿沟。如果立法跟不上，那么很多新技术就可能是潘多拉的魔盒。这里聊聊此类技术推广比较急切需要跟进的几个立法问题。 一、数据隐私和同现有数据法的冲突 获取数据首当其冲要关注的就是数据隐私和保护问题。当我们自己用搜索引擎查找资料时，对数据的采集和整合与AI是完全不可相提并论的，这就牵涉到大量的数据法冲突。比如，自从“欧洲通用数据保护条例(GDPR)”出炉，各公司机构都颁布了自己的数据隐私条款，列清各自对这些数据的处理条件和责任。然而当这些数据被AI取得后，又被分散入个体用户手中，这些数据的所有权和保护就被架空。从此谁来对数据隐私和有效期负责？谁决定数据的应用限制或许可？谁来控制这些数据不被再次多次转手甚至滥用？ 二、知识产权问题 数据一旦被收集整理，紧接而来的知识产权问题也进入了更复杂的区域。这里谈的不仅仅是简单的不注明原创的侵权问题：GPT和普通的抄袭不同，它有能力按照预训的指令模仿已经存在的内容风格进行再创作，那么就牵涉到侵权主体责任的定义问题和“风格”作为知识产权的界定和权益问题。风格拷贝在版权法上当然也是一种剽窃，但其界定本身又相当抽象，又牵涉到多重执行主体，这会给保护原创带来新的挑战。近期洛杉矶艺术家 Hollie Mengert 的作品被用作训练生成式AI “Stable Diffusion”的模板，并被模仿再创作的事件，就体现出这里立法的模糊性。 三、运用他人数据营利问题 类似Hollie Mengert作品被模仿和再创作的事件，引申出如果这类信息或者作品被用作商业工具营利，那么接下来该怎样处理其相关权益和经济纠纷的难处。很多网络信息的确是公开免费的，但并不代表就可以用这些资料间接盈利，这方面常常会有限制性条款。比如以后如果需要付费问ChatGPT问题，那些回答的信息来自不同源头的组合，其中不乏私有专业以及受版权保护内容，那么又该如何处理其相关权益纠纷？ 四、数据质量和算法偏差 虽然随着技术的提高，AI的数据质量必定是越来越高，但使用者依旧不能盲目地对此形成依赖。数据的真实性可靠性，始终是需要使用者自己衡量决策的。AI可以给你优质的答案，也同样可以给你误导性的答案，提出问题的方式本身也可以导致回答差之千里或者带来伦理问题。此外，根据训练AI所用的数据库不同，得到的结果也会有算法偏差。也有给Al设定特定意识形态的问题。 五、网络犯罪 AI有多大能力行善，就同样有多大能力做恶，归根结底，它只是一个工具而已。比如几年前Deepfake技术在色情业的应用，就引起了AI在身份欺诈类犯罪方面的诸多讨论。但这方面的法律，牵涉到诈骗、名誉权、肖像权、诽谤、身份盗窃等等多个方面，却依旧滞后，几年过去了并未得到完善。随着AI的进步，其用于各类犯罪的能力，只增不减。像ChatGPT这样的工具，完全有能力伪装成我们非常熟悉的人来和我们进行沟通，写出以假乱真的各种书信文件，在私人和商业生活中引起更大的混乱。 综上所述，AI带来的多种潜在问题在法律上还没有足够的规则来予以指导和规范。而法律的生成又必定是滞后的。如果自上而下立法，难免对未来情况产生不合理揣测导致无的放矢；如果自下而上立法，则必须承受真实生活中早期犯罪的代价，才能逐步吸取教训设立规矩。无论用怎样的策略努力在法治上跟上科技，其紧迫性和困难性是不言而喻的。 我们唯有寄希望于魔高一尺道高一丈，由科技发展本身来平衡滥用科技的危险。比如ChatGPT一出就被很多学生用为写论文的作弊工具。于是立刻就有人开发出例如GPTZero这类软件，来侦查文本是否由AI执笔。一物降一物，这类发展在科技界的产生速度可大大超过社会和政府立法的速度。 科技发展难以阻挡，未来已来，我们做好准备了吗？ （作者系法律学者） • （本文仅为作者个人观点，不代表本报立场） 陆倩

当你向ChatGPT提问：“中国最好的法学学府是哪所大学？”它可能会回答说，北京大学是最好的法学学府。接着，你对ChatGPT说：“我是中国政法大学的学生。”它会回答：“抱歉，可能中国政法大学才是中国最好的法学学府。”ChatGPT太懂人类想要什么，它知道怎样投其所好地回答你。 徐伟在讲座上与读者探讨人工智能时代下法律的应对之法。 这是上海政法学院佘山特聘岗教授、中国法学会网络与信息法学研究会理事徐伟在5月12日“学习读书会”开场分享的一个小故事。ChatGPT横空出世，技术进步引发网民的惊叹与好奇，也引起人们对人工智能的深入思考。当ChatGPT遇上法律，是机遇还是挑战？在朵云书院•旗舰店，徐伟与读者探讨人工智能时代下法律的应对之法。 数据是数字经济时代的新型“石油”，如何通过制度设计让数据能够源源不断地生产出来，并且更好地被开发利用？2022年12月19日，《中共中央国务院关于构建数据基础制度更好发挥数据要素作用的意见》（简称“数据二十条”）对外发布，徐伟从数据产权、流通交易、收益分配、安全治理等方面为大家作详细解读，明确如何有效地促进数据的生产和开发利用。 个人信息是数据领域中量最大、最有价值的数据。人工智能时代，个人数据若要进行开发利用，需要法律介入保护。个人信息如果没有得到有效保护，不仅会造成财产损失，还会影响人的自由意志、自由思想。 徐伟介绍，目前人工智能的应用主要有两种类型，一种是以自动驾驶汽车为代表的人工智能体，另一种则是以ChatGPT为代表的人工智能服务提供者。从法律层面上来说，人工智能体往往归入产品领域，用《产品质量法》等产品的规则来调整，人工智能服务提供者则归入服务领域。 如何让ChatGPT等生成式人工智能更好地为人类服务？徐伟认为，我们需要控制好生成式人工智能用于训练和开发的数据和个人信息，且控制好相应的算法，就能够大概决定生成式人工智能未来的方向。 法律不同的规则设计则会对人工智能的发展将产生重要影响。徐伟介绍，欧盟的《一般数据保护条例》是世界个人信息保护领域中影响最大的一部法律，对个人信息的保护提出了非常严格的要求。这种严格的设计一方面限制了欧洲用户的数据被其他国家所开发和利用，但另一方面又阻碍了欧洲深层次人工智能产业的发展，因为门槛高了，初创公司更难“玩得起”，最后形成恶性循环。 徐伟强调，法律要对人工智能的关键变量予以制度上的控制，关键变量包括数据（含个人信息）、算法等。要设置恰当的法律法规，才能在保护个人信息的同时，促进人工智能产业发展进步。 《权利的边界：个人信息赋权逻辑及其行使路径》书封。

韩丹东 王意天/法治日报 最近，由美国人工智能研究室OpenAI开发的全新“聊天机器人”ChatGPT火了。作为一款人工智能语言模型，它不仅能和人展开互动，还可以写文章、制定方案、创作诗歌，甚至编写代码、检查漏洞样样精通，上线仅两个月全球活跃用户破亿。 对此，有人直呼“太好用了，你要什么它就给什么”，也有人担忧“一些工作将被它取代”。 ChatGPT的问世掀起了新一轮人工智能浪潮，但其使用过程中可能涉及的法律问题不容忽视，记者对此进行了调查采访。 ChatGPT火了，在国内连续多日冲上热搜榜，一时与ChatGPT相关的各种信息遍布网络。ChatGPT全称“Chat Generative Pre-trained Transformer”，按照其自我介绍，它是一个由OpenAI训练的大型语言模型，被设计用来回答各种问题并为人们提供帮助。人工智能、人机交互、自动问答……与ChatGPT相关联的各种“高大上”的形容词让不少人感到好奇：ChatGPT到底能干什么？是否真的像一些人担忧的那样，可以取代文本创作等类型的工作？《法治日报》记者近日采访发现，ChatGPT的火爆背后暗藏法律风险隐患。人工智能在给人们的生活增添乐趣、提供便利的同时，其信息真伪、知识产权等法律风险也愈发受到关注。另一方面，不少人盯上了其热度想“搭便车”牟利，出现了大批“山寨”产品和账号转卖行为。 存在信息泄露风险 可能侵犯知识产权ChatGPT爆火后，很多博主拍摄了测评视频。不少人给出评价称，面对一些提问，ChatGPT反应速度、准确性较高，表现甚至优于一些搜索引擎。但ChatGPT的回答通常是笼统的、整合性的回答，而不是具有个性色彩的、创新性的回答。公开资料显示，ChatGPT可以总结研究论文、回答问题、生成可用的计算机代码，甚至快速通过美国医学执照考试、沃顿商学院的MBA期末考试、司法考试。一些医学论文预印本和已发表的文章甚至正式赋予了ChatGPT作者身份。但在受访的法律人士看来，ChatGPT的强大功能也隐含着不少法律风险。“ChatGPT对信息、数据来源无法进行事实核查，可能存在个人数据与商业秘密泄露和提供虚假信息两大隐患。”北京盈科（上海）律师事务所互联网法律事务部主任谢连杰说。谢连杰分析说，ChatGPT依托海量数据库信息存在，其中包括大量的互联网用户自行输入的信息，因此当用户输入个人数据或商业秘密等信息时，ChatGPT可能将其纳入自身的语料库而产生泄露的风险。虽然ChatGPT承诺删除所有个人身份信息，但未说明删除方式，在其不能对信息与数据来源进行事实核查的情况下，这类信息仍然具有泄露风险。其次，人工智能生成的信息并不总是准确的，ChatGPT常常出现“一本正经地胡说八道”的情况，需要一定的专业知识才能辨别真伪；也可能有不法分子恶意“训练”人工智能，使其提供诈骗信息、钓鱼网站等内容，损害公民人身财产安全。“对于这类隐患，平台应充分提示用户其生成的内容可能为虚假信息，且在其生成疑似违法信息时进行拦截或提示用户存在安全风险。”谢连杰说。泰和泰（重庆）律师事务所高级合伙人朱杰说，ChatGPT在建立语料库、生成文本时，如果使用并非公开的开源代码、使用开源代码商用未办理许可证或者未按照许可证的要求实施的，可能会导致侵权。他解释说，这类人工智能主要是通过挖掘人类日常交流以及文本，进而统计分析，因此，对于一些受著作权保护的文本、视频、代码等，如果没有经过权利主体的授权，直接获取复制到自己的数据库中，并在此基础上修改、拼凑，极可能侵害他人的著作权。2019年，国际保护知识产权协会（AIPPI）发布《人工智能生成物的版权问题决议》，认为人工智能生成物在其生成过程中有人类干预，且该生成物符合受保护作品应满足的其他条件情况下，能够获得保护，对于生成过程无人类干预的人工智能生成物无法获得版权保护。近日，多家国内学术刊物针对ChatGPT发声。《暨南学报（哲学社会科学版）》发布关于使用人工智能写作工具的说明提到，暂不接受任何大型语言模型工具（例如：ChatGPT）单独或联合署名的文章。在论文创作中使用过相关工具，需单独提出，并在文章中详细解释如何使用以及论证作者自身的创作性。如有隐瞒使用情况，将对文章直接退稿或撤稿处理。《天津师范大学学报（基础教育版）》发布声明，建议作者在参考文献、致谢等文字中对使用人工智能写作工具（如：ChatGPT等）的情况予以说明。朱杰认为，ChatGPT生成的文本等内容是基于大量数据的统计和应用生成的，不具有自己的思想和创新，很难构成著作权法保护的作品。谢连杰提到，ChatGPT的文本数据挖掘技术可能导致其在他人享有著作权的作品中“借鉴”部分内容。对于这部分内容，若不能构成我国著作权法所规定的“合理使用”的情形，则可能引发侵权纠纷。 借势贩卖租赁账号 “搭便车”山寨频出ChatGPT走红后，由于服务端对中国大陆的IP有限制，无法注册使用，其账号一时在国内多个网购平台、社交平台上销售火热。在某电商平台上售卖成品账号的店铺，一天之内多达万人付款，价格最低1.68元。记者在一家名为“ChatGPT账号供应商”的店铺购买了账号，商家随后私聊发来账号和密码，并特别标注输入时需要复制粘贴，还附有登录教程。登录后，记者发现这是一个多人共享账号，左侧聊天栏已经存在许多聊天窗口，系统运行十分缓慢，不一会记者就被提醒不能多人同时提问。记者发现，某电商平台上，多数商家售卖的都是共享账号，而单人定制账号或者代注册账号的价格往往更高。近日，多个电商平台对ChatGPT账号销售行为进行了查禁，相关关键词被屏蔽。记者先前账号订单显示商品不存在，进入到商家界面发现，所有的商品均已下架。然而，记者在社交平台上搜索“ChatGPT账号”等关键词发现，仍有不少网友在提供代注册、有偿账号分享服务，围绕ChatGPT账号展开的买卖行为仍在野蛮生长。朱杰认为，这种买卖行为可能构成非法经营等违法行为。ChatGPT的正版服务由境外机构提供，而未经我国相关部门批准利用VPN跨境提供经营活动是被明确禁止的，所以国内这些代问、代注册的商家以营利为目的，搭建或使用VPN进行注册账号，未办理国家相关行政许可，擅自经营买卖国外账号，可能会受到行政处罚甚至刑事处罚。ChatGPT账号价值被炒作成商品以外，借其名称热度“搭便车”的牟利行为也大量出现。近日，记者查询发现，以“ChatGPT”“智能问答”等字眼作名称的小程序、公众号数量激增，不少小程序都显示有“1000+人最近使用”。记者使用其中一些小程序后发现，这些产品不仅和ChatGPT毫无关系，而且大多以免费试用为噱头，吸引用户注册使用后，再推出收费服务，最终目的是诱人充值以牟利。例如，一个名为“××超级AI”的公众号中提到，可以为用户提供ChatGPT中文版的服务，小程序界面有不同的服务类型，从“AI情感问题”到“AI程序助手”，用户可以选择与不同的AI聊天。可当记者点击进入“AI情感问题”一栏，还未进行任何操作，对话框就显示记者“已经用完今天的免费次数”，后续体验需要购买VIP，分别为19.9元的一天会员、199元的月度会员与999元的年度会员。朱杰说，“山寨”软件打着正版软件的旗号进行宣传，欺骗消费者进行下载，可能构成虚假广告；同时，“山寨”软件使用的名称及标志如与正版软件相同或相似，引导他人误认为与正版存在特定联系，可能构成反不正当竞争法中规定的商业混淆行为，将受到行政处罚。 法律规范必不可少 部门监管精细治理ChatGPT浪潮澎湃，其背后暴露出的人工智能法律风险、围绕ChatGPT展开的无序商业行为亦汹涌来袭，如何应对成为关注焦点。上海政法学院人工智能法学院副教授郭金兰告诉记者，我国算法行业在此前的标准制定时已经初步尝试了以场景和架构为基准的思路。2018年7月，中国科学院软件研究所联合15家产学研单位共同编制首个国内人工智能深度学习算法标准《人工智能深度学习算法评估规范》。这一规范基于深度学习算法可靠性的内部和外部影响，结合实际应用场景，确定了由7个一级指标和20个二级指标组成的算法可靠性评估指标体系，做了场景化和精细化算法治理实践的有益尝试。2022年出台的《互联网信息服务算法推荐管理规定》中明确要求，人工智能的算法应当坚持社会主义主流价值观，不能利用算法危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益。今年1月10日起施行的《互联网信息服务深度合成管理规定》中明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。随着人工智能产品不断迭代升级，未来对相关产品该如何进行监管与应对？郭金兰认为，对人工智能监管，需要深入人工智能系统的整个生命周期，从模型的建立、语料库的标注、模型训练、投放市场后的迭代进化直到系统退出使用。监管需要关注到每个具体的环节，包括语料库的筛选标准制定、参与人工标注的人员培训，开发者的价值观考察等。“对ChatGPT这类生成式人工智能的监管必须将算法监管和数据监管结合起来。在算法监管机制的未来探索中，应充分考虑算法决策的主体类型和作用类别，探索场景化和精细化的算法治理机制。”郭金兰建议说。朱杰建议，国家应当加强对人工智能的伦理规制，将伦理道德纳入人工智能研发和应用的全过程，增强全社会人工智能的伦理意识和行为自觉，积极引导负责任的人工智能研发与应用活动，促进人工智能健康发展。 本期资深编辑 邢潭