《从法律实务角度漫谈Chat GPT》 主讲人：孙洪良律师、王馨悦律师
一、展开说说：Chat GPT面面观
（一）功能几何？
（二）弱点何在？
二、潜在隐患：法律风险知一二
（一）数据安全风险
（二）知产侵权风险
（三）技术伦理风险
三、警钟长鸣：切莫违法惹事端
（一）律师用Chat GPT打官司遭制裁
（二）用Chat GPT制作虚假视频被抓捕
（三）擅自买卖Chat GPT账号涉嫌非法经营
一、Chat GPT面面观
01
孙律师：首先向大家介绍一下Chat GPT。Chat GPT是什么？为了回答这个问题，我向Chat GPT下达了指示，要求他做一个自我介绍，以下是Chat GPT的答复“我是一个由Open AI开发的大型语言模型，基于GPT-3.5架构训练而成。我被训练用于处理各种自然语言任务，包括回答问题、提供解释、生成文本等。
我在广泛的主题和领域上有一定的知识，但需要注意的是，我是在2021年9月进行训练的，因此我没有关于过去这个时间点之后发生的事件的信息。我可以提供一般性的知识、帮助解决问题和提供指导，但在某些特定领域的专业知识上可能有限。
我旨在与用户进行对话，并根据输入的上下文生成响应。尽管我经过了广泛的训练和优化，但并不意味着我的回答始终是准确和完美的。有时候，我可能会提供错误或不完全准确的信息。因此，在处理重要事务或需要专业意见的情况下，建议咨询相关专业人士。
总之，我是一个用于自然语言处理的语言模型，旨在帮助回答问题、提供信息和进行有意义的对话。如果您有任何问题，请随时提问！”
王律师：我们也可以从名字的角度了解Chat GPT。首先，我们把这个名字拆成两部分 : Chat 和GPT
“Chat”（ 聊天 ) ：这个英文单词意味着与别人进行轻松地交谈。在这里，“Chat”用来表示这个人工智能的主要功能就是和人聊天，通过文字和您进行对话，回答您的问题，给您提供帮助。
“GPT”：这是一个缩写，代表了“Generative Pretrained Transformer”，这是一种很先进的人工智能技术。
我们来逐个解释这几个词：
“Generative”( 生成式 )：意味着这个 AI 能自己生成文字，根据您的问题创造出新的回答，而不仅仅是从已有的文本中找到答案；
“Pre-trained”（ 预训练 ) : 这意味着在 AI 和您聊天之前，它已经学习了大量的文本数据，这些数据让它具备了知识和理解能力；
“Transformer”（ 变换器 )：这是一种人智能算法，让 AI 能够更好地理解和生成文本。这个词在这里可能有些难以理解，但简单地说它就是让 AI能够完成聊天任务的一种关键技术。
所以，把这两部分组合起来，我们得到了ChatGPT”这个名字，它表明这是一个使用 GPT 技术的聊天型人工智能，能够与您进行轻松的文字交流。
海蕾主播：那我简单概括一下，我们是否可以把ChatGPT理解为一个经过数据训练的大型语言模型，能够通过对话的方式解答问题？
孙律师：对的，简单来讲是这样子，但是ChatGPT的功能不止于此，他可以像SIRI或者小度一样和用户聊天，也可以帮助我们做语法更正、文本翻译、语言转换、作为百科全书或集合性搜索引擎给我们解答问题，这些是比较基础的功能。再进一步，Chat GPT可以作为一个创意生成器，给我们提供灵感。在学术上，可以帮助拟定论文大纲、可以进行文学创作，只要使用者为其创设的语境足够丰满、写诗写小说都不成问题。在技术上，Chat GPT可以帮助跑代码或者修复代码错误，还有接下来我们要讲到的进行AI绘图、生成虚拟视频。因为Chat GPT是当下比较成熟的人工智能，经过深度学习和优化，甚至还能充当心理健康顾问。
海蕾主播：哇，竟然有这么多功能，相信我们广大听众朋友应该也都接触过ChatGPT了，根据自身需要尝试过其中某些功能，那再请教下二位律师，ChatGPT作为一个人工智能或者说是一项工具，应该或多或少有一些弱点吧？使用的时候有没有什么注意事项？
王律师：嗯，弱点当然是有的，ChatGPT还不是一个尽善尽美的工具。在使用过程中，我们也逐渐发现了两个非常突出的问题。第一，就是刚才孙律师陈述的ChatGPT自我介绍中提到的，ChatGPT是在2021年9月进行训练的，因此他没有关这个时间点之后发生的事件的信息，数据库过于陈旧，我们是没办法通过ChatGPT获取时下热点信息的。第二，就是ChatGPT无法判断正误，有时会给用户提供错误信息、虚假信息，我们只能把ChatGPT当做一个帮助提高效率的工具，但面对他给出的答案，我们还是要保持谨慎，要充分地修缮和验真，不然会闹出乌龙甚至酿成大祸。
孙律师：对，据媒体报道，由于ChatGPT提供虚假信息，母公司Open AI已经被告上法庭，一位美国电台主持正式对Open AI提起了诉讼，原因是ChatGPT对其进行了虚假和恶意的指控。这件事的起因是美国一个真实案件，某记者在报道这个真实案件时，使用ChatGPT帮忙提供素材，结果ChatGPT瞬间就生成了一份30页的报告，这份报告言之凿凿，把电台主持Mark Waltters定义为犯罪嫌疑人、指控其涉嫌欺诈、并挪用超过500万美元的资金，但其实这完全是ChatGPT编造的虚假消息，于是MARK一纸诉状怒告ChatGPT。所以广大媒体朋友们尤其要对ChatGPT的答案进行真实性审查，要对自己发布的内容负责，否则可能造成无法挽回的后果。
王律师：是的，据我了解，我们很多学生用户用ChatGPT帮忙查找文献、思考创新点，我就举个简单的例子，给用户朋友们提个醒，对我们法律人或者法学生来讲，中国人民大学的王利明教授如雷贯耳，是当下法学界泰斗级的法学家，但是ChatGPT在回答我提出的问题时，曾答中国政法大学教授王利明，我当时一看到这个答案心就凉了半截儿，因为在我的印象里，王利明教授没有在中国政法大学的履历，为了确认ChatGPT的正误，我又去检索验证了一下，果然，ChatGPT提供了错误答案。所以我们还是强烈提醒广大用户，ChatGPT确实是提高效率的好帮手，但验真的步骤不可省略，不要过度信任、不要完全摆烂偷懒。
海蕾主播：是啊，这也让我联想到一句老话，“尽信书则不如无书”，我们在使用工具时还是不能大意，不能过度依赖工具，要有判断能力、也要勤于求证。另外现在自媒体、互联网如此发达，我们作为普通观众、听众也没办法迅速分辨所接收的信息是真是假，这对我们普通网友来讲也着实是个考验。
二、法律风险知一二
02
孙律师：除了刚才提到的两个表层弱点以外，ChatGPT还存在一些潜在的法律风险。从数据安全的角度讲，近几年，国家陆续出台了《网络安全法》《数据安全法》《个人信息保护法》以及一系列纷繁的法规、文件等等，来应对大数据时代带来的风险与挑战。尽管ChatGPT本身不存储个人数据，但在传输过程中或与第三方应用程序集成时可能存在风险。举例来说，如果用户与ChatGPT进行的聊天包含敏感信息，例如银行账户号码，则存在风险被黑客截获的风险。此外，第三方应用程序或服务可能在用户授权的范围内访问对话数据，用户应仔细阅读应用程序的隐私政策以了解数据的处理方式。为了减少数据安全风险，用户应当避免在与ChatGPT的对话中透露敏感信息，并确保与ChatGPT交互的应用程序或服务具有适当的安全保障措施。
王律师：此外，ChatGPT还潜藏着知识产权侵权风险，也就是ChatGPT可能会使用受版权保护的内容或生成可能侵犯他人版权的内容。作为一个大型语言模型，ChatGPT通过训练数据学习语言模式和信息，但可能无意中生成与受版权保护的内容相似或相同的文本。举例来说，如果ChatGPT生成的回答与某个作家的原创作品非常相似，可能会触发版权问题。此外，如果ChatGPT生成的内容包含受版权保护的图像或音乐，也可能构成侵权行为。
就在最近，两位美国作家对ChatGPT母公司Open AI提起诉讼，声称Open AI在没有获得版权授权的情况下，就利用他们的作品来训练其人工智能。这两位作家称，ChatGPT写出的书籍简要，和他们发表的文章一模一样，这说明训练ChatGPT的数据库，是包含了他们的作品的。聊天机器人是在大量的文本数据上进行训练的，Open AI没有透露训练ChatGPT具体使用了哪些数据，但该公司表示，它通常会抓取网络数据，包括使用档案图书和维基百科等。根据起诉书显示，Open AI的训练数据超过30万本书，其中包括本就备受争议、版权归属不明晰的“影子图书馆”。
孙律师：而同样是不久前，Open AI在加利福尼亚州同样被多方提起集体诉讼，起诉书称Open AI在未经允许的前提下，在互联网上窃取和挪用了大量私人数据来训练ChatGPT。所以为了减少知识产权侵权风险，我们在使用ChatGPT也要绷紧尊重他人的知识产权这根弦，对于生成的内容，可以采取措施，如标注来源或避免直接引用受版权保护的内容。
王律师：最近使用ChatGPT给女性制作色情图片或者诈骗的消息甚嚣尘上，这就暴露了ChatGPT的技术伦理风险，技术伦理风险涉及ChatGPT的使用可能引发的伦理和社会问题。这包括内容的不当使用、误导性信息的传播、违反良俗等等。举例来说，如果ChatGPT被用于制作虚假的新闻文章或恶意侮辱、丑化信息，可能会对公众产生误导和负面影响。广大听众朋友们一定要善意使用工具，切忌滥用工具行违法犯罪之事。相信未来国家对ChatGPT监督和审核的力度也会加强。
三、切莫违法惹事端
03
海蕾主播：感谢两位律师的专业解读，ChatGPT隐藏的法律风险还是不容忽视的。我之前看新闻有看到一个律师用ChatGPT打官司闹出乌龙的案例，不知两位律师有没有关注？
孙律师：这个案例在我们律师界应该人尽皆知了，也给我们敲了警钟。这个案件发生在美国，原告律师提交的辩护词中包含 6 个法院判决的来源和相关资料，最先发现端倪的是被告律师，被告律师刚好是对案件领域钻研精深的律师，率先表示他穷尽一切途径也找不到原告律师提到的这几个案例。得此消息后，法官要求原告律师提供其辩护词中引用案例的相关资料，原告律师也很快给出了案例的法院和法官、案件编号和日期，可谓是详尽细致。但尽管如此，法院和被告律师还是找不到这些案例。最后原告律师承认，自己咨询了ChatGPT，而他提到的6个案例全部都是ChatGPT捏造的，不论是案件本身，还是内部引用，全部都是假的。原告律师是执业三十多年的老律师，因为未经查证而草率使用ChatGPT提供的虚假案例，可能面临法律制裁。
海蕾主播：今年4月份，国内ChatGPT第一刑案出现了，甘肃省平凉市公安局崆峒分局的网安大队在日常网络巡查中发现，某大厂百家号平台上，出现了一篇题为《今晨甘肃一火车撞上修路工人致9人死亡》的文章，网安工作人员初步判断该新闻为虚假消息。民警随即开展侦查工作，发现共计有21个某大厂百家号在同一时间段发布了一模一样的文章。在这篇虚假文章中，“事故”发生的地点除平凉市崆峒区外还涉及兰州、陇南、定西、庆阳等地，所有文章累计点击量已达1.5万余次。根据备案登记信息发现，涉案媒体账号均为广东深圳某自媒体公司所有。2023年5月5日，民警在东莞嫌疑人洪某住处对其使用的电脑及百家号进行取证。初步查明，犯罪嫌疑人洪某通过微信好友获知网络赚取流量变现方法后，购买了大量某媒体平台的“百家号”。再使用第三方信息搜集工具在全网搜索近几年社会热点新闻重新编纂外发，博取眼球。但由于自媒体平台具有查重功能，直接复制粘贴行不通，因此洪某通过ChatGPT将搜集到的新闻“洗稿”后，上传至其购买的某大厂的自媒体平台“百家号”上非法获利，据公开渠道消息，犯罪嫌疑人洪某因涉嫌寻衅滋事罪，被采取了刑事强制措施。可否请二位律师从专业角度为我们解读下这个案例？
王律师：信息网络具有公开性、公共性和社会性。如今，网络社会已经与现实社会融为一体，成为社会完整生态的一个非常重要的组成部分，而网络信息会对现实社会产生直接的影响。GPT作为一种强大的文字生产工具，只要为其提供一个新闻要素，就可以轻易地编造出足以以假乱真的大量虚假新闻信息。以洪某的行为为例，两年前确有一次造成9人死亡的重大铁路交通安全事故：2021年6月4日，甘肃省金昌市境内兰新线K596次旅客列车运行至玉石至金昌站间与跨越线路的作业人员发生相撞，造成9人死亡。由于洪某会先使用第三方软件抓取能博眼球的旧新闻，再使用GPT进行加工，我们可以初步判断此次假新闻的来源应当就是这起两年前的重大事故。洪某捏造虚假信息，并在信息网络上散布的行为可能造成公共秩序严重混乱，该行为具有现实的社会危害性，应当追究刑事责任。
孙律师：我们认为，这个案件最终定性有两种可能，一是您提到的寻衅滋事罪，二是编造、故意传播虚假信息罪。根据两高发布的《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第五条第二款：编造虚假信息，或者明知是编造的虚假信息，在信息网络上散布，或者组织、指使人员在信息网络上散布，起哄闹事，造成公共秩序严重混乱的，依照刑法第二百九十三条第一款第（四）项的规定，以寻衅滋事罪定罪处罚。根据上述规定，我们可以看到，若要以寻衅滋事罪对利用GPT捏造虚假新闻的行为进行定罪处罚，必须满足两个要件：（1）行为人必须捏造、编造了不针对特定主体的“虚假信息”；（2）行为必须“造成公共秩序严重混乱”。本案洪某的行为是否造成公共秩序严重混乱还有待商榷。
王律师：就编造、故意传播虚假信息罪来讲，我国《刑法》第二百九十一条之一第二款规定编造、故意传播虚假信息罪指的是：“编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播”的行为。我们认为，以编造、故意传播虚假信息罪对本案犯罪嫌疑人洪某进行评价更无争议。首先洪某利用GPT编造了虚假的重大交通事故；其次，洪某明知自己所发布、散布的信息为虚假信息，却通过自媒体平台向不特定人群扩散，令他人知晓、点击、浏览、转发、评论、讨论等等。
海蕾主播：所以无论是定性为何种罪名，洪某的行为都确凿涉嫌犯罪了，ChatGPT等工具虽然给我们带来了工作和生活上的极大便利，但任意的滥用不可取。无论是之前的利用人脸合成技术实施诈骗、侮辱诽谤他人，还是今天的利用GPT捏造并发布虚假新闻的事件，都可能导致严重的危害。科技永远是一把双刃剑，我们应当永远对其保持警醒的头脑和审慎的态度，才能做到对新兴科技的正确适用。
孙律师：是，我们注意到，现在有大量商家进行ChatGPT的账号交易，在电商平台、论坛、社交群和二手交易平台搜索发现，有一批售卖ChatGPT账号的商家，还有商家推出包月访问服务，会员数量可观。不过在审核机制之下，一些商家“挂羊头卖狗肉”，以销售App周边产品为名销售账号。上述各类ChatGPT代注册、代问生意，触犯了《计算机信息网络国际联网管理暂行规定》。
王律师：《计算机信息网络国际联网管理暂行规定》第六条、第十四条规定，计算机信息网络直接进行国际联网，必须使用邮电部国家公用电信网提供的国际出入口信道。任何单位和个人不得自行建立或者使用其他信道进行国际联网。以营利为目的，利用国外服务器搭建VPN，未经国家信息产业部门许可，擅自经营VPN业务，并经营买卖国外账号，涉嫌非法经营。对于经营者，一般由公安机关责令停止联网，给予警告，可以并处15000元以下的罚款，有违法所得的，没收违法所得。情节严重，涉案金额较大的还可能构成犯罪，要追究刑事责任。相应地，消费者如果购买了此类服务或充值了会员，事后可能面临维权难、退款难的情况。
海蕾主播：我们回头看看，2022年11月底，ChatGPT发布后，迅速在全球范围内引发关注。仅用了2个月时间，其全球范围内的活跃用户就达到了2亿，平均每天有1300万访客使用，创下用户增长速度的新纪录。ChatGPT的应用场景也随着用户和语料的增加逐渐拓宽，目前已知的应用场景有完成作业、写论文、写代码、写脚本、制定商业提案、翻译、创作诗歌、故事，甚至可以完成编写和调试计算机程序等高难度工作。但今天通过两位律师的专业分享，我们也应当意识到，ChatGPT在为人们带来巨大便利和惊喜的同时，潜在的法律风险也亟须引起重视和关注。感谢两位律师今天的分享，相信我们的听众朋友们也是受益多多。今天的直播到此结束，我们下期再见！
END
