文章主题：AI, 特朗普, 律师, 虚假案件
特朗普前律师被曝用AI瞎编判例，自称因“没跟上技术趋势”
近年来，生成式人工智能技术的发展日益成熟，尤其是以ChatGPT、谷歌Bard等为代表的一系列应用，正逐渐渗透到各行各业之中。据2023年12月29日（上周五）的消息，美国前总统特朗普的前经纪人兼律师科恩（Michael Cohen）被曝光利用AI技术制造虚假案件，试图为特朗普逃避税收和竞选财务违规行为进行辩护。这标志着生成式AI技术在现实中的应用越来越广泛，也反映出该领域技术的快速发展和不断成熟的趋势。
在2018年，前美国总统特朗普因被指控违反联邦选举法，以及偷税漏税和向国会作伪证等罪行，被判处三年监禁。然而，到了2023年12月2日，特朗普却因涉嫌财务欺诈再次出现在法庭上，面临着审判。在此过程中，他的辩护团队提交了一份文件，引用了三起案件，试图以此作为证据，以期缩短特朗普的刑期。
在29日纽约南区联邦地区法院发布的文件中，一名当地法官指出，对于科恩所引用的三起案件，他们并未发现任何相关的证据。最终，科恩被迫承认，他所使用的谷歌AI聊天机器人Bard生成的相关案件引文。
Bard是一款由谷歌公司在2023年3月推出的AI聊天机器人,其背后所采用的大模型拥有惊人的1370亿参数。这款机器人在推出时被誉为谷歌针对OpenAI(以及其背后的微软)所推出的“最强竞品”,以其实时、流畅且个性化的对话服务而备受好评。
在文件陈述中，科恩坦诚自己在法律技术新兴趋势及相关风险方面未能及时跟进而导致误解。他误将谷歌Bard视为一种“超级搜索引擎”，而实际上它只是一种能够生成看似真实但实际内容可能存在偏差的文本文本生成服务，类似于ChatGPT。
在使用Bard工具生成案例后，科恩将其提交给了律师团队中的施瓦茨（David M. Schwartz）。值得注意的是，施瓦茨以及他的律师助理并未对他的建议性引文提出任何担忧。在没有确凿证据证明这些案例确实存在的前提下，科恩却代表自己向联邦法官提交了相关文件，这一点令他感到十分惊讶。
美媒华盛顿邮报在29日时称，科恩引用AI生成虚假案例一事，预计将会对特朗普案件造成重要影响。
在此之前，美国已经发生了两起利用生成式AI工具制造虚假案例的事件。首先是在2023年5月底，一位拥有超过30年工作经验的纽约律师利用ChatGPT编写了相关资料。最终，这位律师及其所在的律师事务所被罚款共计5000美元。其次是在2023年6月，一名记者在撰写报道过程中使用ChatGPT协助总结信息，结果导致受害者向ChatGPT的开发公司OpenAI提起诉讼。
在技术领域中，AI出现“胡说八道”或“说谎”的现象被称作“AI幻觉”。这种情况通常表现为模型输出的数据不真实或者没有实际信息内容，这种现象的出现往往是由于训练数据的错误和不足，以及模型本身存在的偏见所导致的。目前，我们仍然没有找到一种完美的解决方案来彻底解决这个问题。
而肉眼可见的是，随着新一代技术工具的逐渐成熟，AI在法律案件工作中将变得越来越普遍，也一定会产生各种各样的问题，究竟如何解决，仍值得进一步讨论。
采写：南都记者 杨博雯返回搜狐，查看更多
责任编辑：
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
