文章主题：
这是「进击的Coder」的第 835 篇技术分享编辑：桃子 拉燕来源：新智元报道 “
阅读本文大概需要 5 分钟。
”
【新智元导读】ChatGPT 又有什么错呢？美国律师向法院提交的文件中，竟引用了 6 个根本不存在的案例，反倒惹祸上身被制裁。
ChatGPT，真的不可信！
在美国近来的一起诉讼案件中，一位律师帮原告打官司，引用了 ChatGPT 捏造的 6 个不存在的案例。法官当庭指出，律师的辩护状是一个彻头彻尾的谎言，简直离了大谱。
然而，律师为自己辩护中，甚至提交了和 ChatGPT 聊天截图的证据。显然，ChatGPT 称「这些案例都是真实存在的」。
本为原告打的官司，自己竟惹祸上身，将受到制裁，这波操作瞬间在网上引起轩然大波。毕竟，GPT-4 刚诞生时，OpenAI 放出它在律师资格考试（UBE）的成绩，还拿到了 90 分。
网友警告，千万不要用 ChatGPT 进行法律研究！！！
还有人戏称，要怪就怪你的 prompt 不行。
律师承认使用 ChatGPT
这起诉讼的起始和其他许多案件一样。一位名叫 Roberto Mata 的男子在飞往纽约肯尼迪国际机场的航班上，不幸被一辆餐车撞到膝盖，导致受伤。由此，他便要起诉这架航班的「哥伦比亚航空公司」（Avianca）。
Mata 聘请了 Levidow，Levidow & Oberman 律所的一位律师来替自己打这个官司。接手案子后，律师 Steven A. Schwartz 向法院提交了一份 10 页的辩护状。其中，引用了 6 个相关的法院判决：
Varghese V. 中国南方航空公司
Shaboon V. 埃及航空公司
Petersen V. 伊朗航空公司
Martinez 达美航空公司
Estate of Durden V. 荷兰皇家航空公司
Miller V. 美国联合航空公司
原文件：
https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.32.1.pdf
然而，让所有人震惊的是，从案件本身，到司法判决，再到内部引文，全是假的！为什么假？因为是 ChatGPT 生成的。
这不，麻烦就来了。目前，对方律师考虑举行听证会，对原告律师进行制裁。Schwartz 律师，可以说已经非常资深，在纽约从事法律工作已有 30 年。从他的话中得知，自己吃了大亏，竟是从来没用过 ChatGPT，由此没有意识到它生成的内容是假的。说来，还是太离谱
。原告律师 Steven A. Schwartz 在一份宣誓书中承认，他确实用了 ChatGPT 进行相关研究。
为了验证这些案件的真实性，他做了唯一一件合理的事：让 ChatGPT 验证这些案件的真实性。他告诉法官，「自己无意欺骗法庭或航空公司」。
当他询问 ChatGPT 这些案件的来源时，ChatGPT 先是为之前的表述不清道歉，但还是坚称这些案件都是真实的，可以在 Westlaw 和 LexisNexis 上找到。而对方律师也同样坚持，来自 Levidow & Oberman 律师事务所的原告律师是多么荒唐可笑，由此才引发了法庭对这个细节的重视。在其中一个案例中，有个叫 Varghese 的人起诉中国南方航空有限公司。然而这件事压根不存在。ChatGPT 好像引用了另一个案件 ——Zicherman 起诉大韩航空有限公司。而 ChatGPT 把日期、案件细节什么的都搞错了。Schwartz 此时才悔恨地表示，他没有意识到 ChatGPT 可能提供假案件，现在他非常后悔用生成式 AI 来进行法律研究。法官表示，这种情况前所未见，并将于 6 月 8 日举行听证会，讨论可能的制裁措施。
这件事情再次体现了一个很重要的事实，那就是用完 ChatGPT 必须用其它来源进行双重，甚至三重查证。而 AI 模型在信息输入上出现重大事实错误已经不是第一次了，谷歌的 Bard 也遇到过这种问题。
90 分？GPT-4 成绩被夸大
还记得 GPT-4 刚刚发布那天，「小镇做题家」在各项考试指标上接近满分的水平。尤其，在美国统一律师资格考试（UBE）中，GPT-4 可以拿到 90% 水平，而ChatGPT（GPT-3.5）也仅拿到 10% 的分数。
但是，没过多久，来自MIT的研究人员 Eric Martínez 发了一篇论文，重新评估了 GPT-4 在 Bar 考试中的表现。论文直言，GPT-4 的律师考试成绩被夸大了。
值得注意的是，这些考生都是复读生，不难理解，他们的分数可能会更差。
其次，最近一次七月份考试的数据表明，GPT-4 的 UBE 成绩为 68%。第三，通过检查官方 NCBE 数据，并使用若干保守的统计假设，估计 GPT-4 在所有首次考试中实现 63%。最后，当只考虑那些通过考试的人（即已获得许可或待许可的律师）时，预计 GPT-4 的表现将下降到 48%。
网友称，更准确来说，GPT-4 应该只有 63 分，或者 68 分。
文中，作者还提供了深刻的见解，探讨了将法律任务外包给 AI 模型的可取性和可行性。甚至，人工智能开发人员实施严格和透明的能力评估，以帮助确保安全和可靠的人工智能的重要性。要是，原告的那位律师看过这项研究后，说不定就不会吃大亏了。
ChatGPT 胡说八道
归根结底，ChatGPT 能够编造出 6 个不在的案例，还是因为它固有的「幻觉」问题。直白来讲，就是张口胡说八道的天性所致。就连马斯克都想拯救这个致命的问题，官宣推出了名为 TruthGPT 的 AI 平台。马斯克曾表示，TruthGPT 将是一个「最大的求真人工智能」，它将试图理解宇宙的本质。
然而，别管什么 GPT，幻觉很难搞定。前段时间，OpenAI 联合创始人兼研究员 John Schulman 在演讲「RL and Truthfulness – Towards TruthGPT」中，讨论了幻觉产生的原因以及解决方案。
根据 Schulman 的说法，幻觉大致可以分为两种类型：1 模式完成行为，即语言模型无法表达自己的不确定性，无法质疑提示中的前提，或者继续之前犯的错误2 模型猜测错误语言模型代表一种知识图谱，该图谱将训练数据中的事实存储在自己的网络中。而微调可以理解为「学习一个函数」，能够在知识图谱上操作并输出 token 预测。比如，微调数据集中，如果有包含「星球大战是什么片？」这个问题，以及「科幻」这个答案。 fill=%23FFFFFF%3E%3Crect x=249 y=126 width=1 height=1%3E%3C/rect%3E%3C/g%3E%3C/g%3E%3C/svg%3E)
要是这一信息在原始训练数据中存在，那么模型就不会学习新信息，而是学习一种行为——输出答案。而这种微调也被称为「行为克隆」。如果「星球大战是什么片？」这一问题的答案不是原始训练数据的一部分。即便不知道，模型也会学习正确答案。但问题是，使用这些不在知识图谱中的答案进行微调，就会让模型学会编造答案，即产生所谓的「幻觉」。相反，要是用不正确的答案去训练模型，就会导致模型知识网络隐瞒信息。
网友热评
此事一出，各位网友也是各抒己见。Kim 表示，不光是 ChatGPT，其实人类也爱用想象来弥补知识盲区。只不过 ChatGPT 能装的更逼真。关键在于，要搞清楚 ChatGPT 知道什么、不知道什么。Zero 提出了一个很有建设性的提议，那就是：以后 ChatGPT 再举事例，后面得附上来源链接。Francis 表示，早说过了，ChatGPT 是一种生成式人工智能。意味着它会根据输入的问题生成回答。无论它有多能模仿人类在理解问题后的精彩回答，也改变不了 ChatGPT 本身并不理解这个问题的事实。Tricorn 认为，这位原告律师不应该把锅扔给 ChatGPT，是他自己用错了。应该是把事例当作 prompt 的一部分输入进去，然后让 ChatGPT 填补中间缺环的论证部分。还有网友称，用 ChatGPT 要上点心，要不下一个超级碗就是你了。这就是活灵活现的证据。ChatGPT 等人工智能工具做人类的工作，真的是可能直接导致我们的大灾难。对于 ChatGPT 这个表现，你怎么看？参考资料：
https://www.theverge.com/2023/5/27/23739913/chatgpt-ai-lawsuit-avianca-airlines-chatbot-research
https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.htm
End
崔庆才的新书《Python3网络爬虫开发实战（第二版）》已经正式上市了！书中详细介绍了零基础用 Python 开发爬虫的各方面知识，同时相比第一版新增了 JavaScript 逆向、Android 逆向、异步爬虫、深度学习、Kubernetes 相关内容，同时本书已经获得 Python 之父 Guido 的推荐，目前本书正在七折促销中！
内容介绍：《Python3网络爬虫开发实战（第二版）》内容介绍
扫码购买
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
