文章主题：整理, 郑丽媛, CSDN, ChatGPT
整理 | 郑丽媛
出品 | CSDN（ID：CSDNnews）
ChatGPT 的出现，正在改变着我们的工作和生活方式。它不仅能让程序员将软件开发周期缩短至不到一周，而且还能提高投资模型的预测准确度，使其在股市中的回报率高达 500%。对于科幻作家来说，ChatGPT 更是提供了一个快速创作的平台，他们可以在短短的 9 个月内创作出 97 本书籍，并因此净赚取了 2000 美元的收入。此外，ChatGPT 也为大学生创业者提供了新的可能。只需 6 个月的时间，他们便能成功创业，实现了月收入 45 万元的目标。
随着时间的推移，名为“ChatGPT”的热度逐渐蔓延至一直以来以严谨著称的律师行业，但情况却大相径庭：最近，一位律师在准备辩护词时采用了ChatGPT，结果却发现原本作为原告律师的自己竟然成为了被制裁的对象。
为何如此呢？原因在于ChatGPT为该位律师所提供的六个用于“佐证”的案例，全部均为虚假。
找不到来源的法院判决？在开始讨论这个案例之前，让我们先来简要了解一下相关的案件背景。原告方，是一位名叫Roberto Mata的男士，而被告方则是一家南美洲航空业的巨头——Avianca航空公司。
据报道，2019年8月27日，巴西足球运动员罗伯特·马塔在乘坐从圣保罗飞往纽约肯尼迪国际机场的航班时，不幸遭遇了一名推着服务车的空中服务员碰撞到的膝盖。据此，马塔认为，这名服务员所服务的泛美航空公司应承担相应责任，并已向法院提起诉讼。
最近，Avianca航空公司针对Roberto Mata的诉讼案件提交了一份文件，请求法院撤回该案件，理由是“诉讼时效已经过期”。
对此，来自 Levidow，Levidow&Oberman 律师事务所、执业超过 30 年，也是此次 Roberto Mata 代理律师的 Steven Schwartz，也很快提交了一份长达 10 页的辩护词，作为佐证还引用了一些法院判决，要求该案应继续进行。
事实上，案件进行到这一步时，整体而言还算合理，至少还在常规范围内——直到 Avianca 的律师、甚至法官在内的所有人，都找不到这 10 页辩护词中所引用的 6 个法院判决的来源和相关资料。
全部都是 ChatGPT 捏造出来的首先察觉到不对劲的是 Avianca 公司的律师。
举个例子，在 Steven Schwartz 提交的 10 页辩护词中，引用了一个名叫 Varghese 的人起诉中国南方航空公司的裁决案例，但 Avianca 的律师向法官表示：” 我们无法找到这段引文，也没有在任何案件中找到类似的内容。”
得此消息后，法官要求 Roberto Mata 的律师提供其辩护词中引用案例的相关资料，Steven Schwartz 方面也很快给出了案例的法院和法官、案件编号和日期。
其中，对于 Avianca 的律师例举的 Varghese 案件，Steven Schwartz 就给出了长达 6 页的判决书，并说它是由第 11 巡回法院的一名法官写的。
尽管如此，Avianca 方面依旧找不到这些法庭记录，在法律数据库中也毫无踪影。对此，Avianca 的律师 Bart Banino 表示：他所在的 Condon & Forsyth 公司长期专研航空法，可以看出对方辩护词中引用的案例都是假的。甚至他还补充道：” 可能有聊天机器人参与其中。”
事实证明，Bart Banino 的猜测是对的。
上周三，Steven Schwartz 在一份宣誓书中承认：” 随着生成式 AI 在法律领域的不断发展，为补充所进行的法律研究，我咨询了 AI 网站 ChatGPT。”
至此，总算 ” 破案 ” 了——为什么 Steven Schwartz 引用的案例找不到来源？因为它们全部都是 ChatGPT 捏造出来的，不论是案件本身、司法判决还是内部引用，全部都是假的！
” 法院面临着前所未有的情况 “
在宣誓书中，Steven Schwartz 强调他无意欺骗欺骗法院或航空公司：只因此前从未用过 ChatGPT，因此不知道其生成的内容可能是假的。
身为一名从业 30+ 年的律师，Steven Schwartz 当时有尝试验证 ChatGPT 所提供的案例真实性，只不过方法有些 ” 离谱 “：让 ChatGPT 自己去验证它的回答。
由此，这些由 ChatGPT 生成的虚假案例，才被 Steven Schwartz 写入了辩护词中。面对这个意外的情况，负责该案的法官 Castel 都 ” 懵 ” 了。他在一份文件中写道：” 法院面临着前所未有的情况 “，原告律师提交的法律文件 ” 充满了不存在的案件 “，” 引用了假的司法判决和内部引文 “。
同时，法官 Castel 还下令将于 6 月 8 日举行听证会，讨论关于此次 Steven Schwartz 在辩护词中引用虚假案例的制裁。
对于可能到来的制裁，Steven Schwartz 在宣誓书中表示：” 我非常后悔利用生成式 AI 来补充法律研究，将来在没有绝对验证其真实性的情况下，我绝对不会这样做。”
验证 AI 提供内容的真实性
这个案件的发展，吸引了许多来自律师界的关注和讨论。纽约大学法学院法律伦理学教授 Stephen Gillers 表示，自 ChatGPT 问世以来，律师们就一直在争论 AI 软件的价值和危险。
据悉早在今年 1 月，就有人尝试让 ChatGPT 去考美国的司法考试题（UBE），结果发现无需微调，在证据类题型中它就能达到人类水平。
更值得一提的是，随后 OpenAI 推出的 GPT-4，更是各类基础考试都高分通过：在模拟律师资格考试中，成绩排前 10%；在 SAT 阅读考试中，成绩排 7%；在 GRE verbal 考试中，成绩排前 1%。
可尽管如此，这也并不意味着 AI 所生成的内容 100% 真实，因此核实其提供信息的必要性是不可缺少的一步，尤其是在医学、法学等向来严谨的领域。Stephen Gillers 指出：” 现在律师界讨论的焦点是，如何避免本案所发生的情况，你不能只是把 AI 输出的内容复制粘贴到你的法庭文件中。”
对于这个案件，你又是否有什么看法？
参考链接：
https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html
https://www.engadget.com/chatgpt-now-has-an-official-iphone-app-181454446.html
https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.32.1_1.pdf
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
