AI助手资讯

每经编辑：程鹏,盖源源 ChatGPT，还可以信任吗？ 据央视新闻5月29日报道，近日，美国一名律师在一起诉讼案件中，帮原告打官司时，引用了ChatGPT搜集的6个案例，而法官却发现那些信息全是子虚乌有。律师承认自己没有核实信息并为此道歉，眼下面临处罚。 让ChatGPT协助办案美国30年资深律师被坑 据新华社援引美国有线电视新闻网28日报道，男乘客罗伯托·马塔对哥伦比亚航空公司提起诉讼，称自己2019年搭乘该公司航班飞往纽约市途中，乘务人员疏忽导致他膝盖被客舱内推车撞伤。 马塔的代理律师是已有30多年从业经历的纽约市律师史蒂文·施瓦茨。为支持马塔诉求，施瓦茨向法官凯文·卡斯特尔提交了多个所谓类似案例及其判决结果。 今年4月，哥伦比亚航空公司的律师致信法官，质疑施瓦茨所提交案例信息的真实性。据美国《纽约时报》报道，律师之一巴尔特·巴尼诺说，他的律所律师精通航空法律，看出那些信息不实。他说，他们当时隐约感觉那些信息来自ChatGPT。 法官卡斯特尔本月4日在一份书面文件中写道，那6个案例的判决结果、引语等都是假的，“法庭从未遇到过这种情况”。他下令6月8日就处罚施瓦茨举行听证会。 施瓦茨承认那6个案例为ChatGPT提供。法庭文件显示，他看到这些案例信息后追问ChatGPT信息是否属实，机器人称“千真万确”，还给出了所谓的信息出处。 施瓦茨说，他这是第一次用ChatGPT协助办案，“没有意识到内容伪造的可能性”。 他在书面文件中“深表懊悔”，愿意承担相关责任，承诺今后“没有完全核实”就不会使用聊天机器人提供的信息。 研究发现ChatGPT并非可靠信源 值得一提的是，今年3月14日，OpenAI宣布正式发布为ChatGPT提供支持的更强大的下一代技术GPT-4，称其拥有图像识别功能，高级推理技能，以及处理25000个单词的能力，在某些测试中的表现“可与人类相媲美”，并在大学入学和法律及医学等专业领域的许多模拟考试中优于其前身GPT-3.5。例如，GPT-4通过了律师资格模拟考试，分数超过90%的人类考生，而GPT-3.5此前的分数则低于90%的人类考生。 不过，目前最新的研究发现ChatGPT并非可靠信源 。 据科技日报5月18日的一篇报道，加拿大科学家在16日出版的《放射学》杂志上刊登新论文称，最新版本的ChatGPT通过了美国放射学委员会的考试，突出了大型语言模型的潜力，但它也给出了一些错误答案，表明人们仍需对其提供的答案进行核查。 图片来源：物理学家组织网 ChatGPT是一种人工智能（AI）聊天机器人，它使用深度学习模型在庞大的训练数据中识别单词之间的模式和关系，并根据提示生成类似人类的反应，类似的聊天机器人正被纳入谷歌和必应等流行的搜索引擎中，医生和患者们也会使用这些搜索引擎来搜索医疗信息。但由于数据来源并不一定真实可靠，该工具会给出与事实不符的答案。 为评估ChatGPT在美国放射学委员会考试问题上的表现并探索其优势和局限性，多伦多大学的拉杰什·哈瓦那博士及其同事首先测试了基于GPT-3.5的ChatGPT的表现。研究团队使用了150道选择题，这些选择题与加拿大皇家学院和美国放射学委员会考试的风格、内容和难度相当。这些问题不包括图像，分为低阶（知识回忆、基本理解）和高阶（应用、分析、综合）思维问题。高阶思维问题可进一步细分为影像学表现描述、临床管理、计算和分类、疾病关联。 研究人员发现，基于GPT-3.5的ChatGPT的正确率为69%，接近70%的及格线。该模型在低阶思维问题上表现相对较好，正确率为84%，但回答高级思维问题时表现不佳，正确率仅为60%。而性能更优异的GPT-4的正确率为81%，且在高阶思维问题上的正确率为81%，远好于GPT-3.5。但GPT-4在低阶思维问题上的正确率仅为80%，答错了12道题——GPT-3.5全部答对了这些题目，这引发了研究团队对GPT-4收集信息的可靠性的担忧。 这两项研究都表明，ChatGPT会有提供不正确答案的倾向，如果仅仅依靠它获取信息，非常危险，因为人们可能意识不到其给出的答案是不准确的，这是它目前面临的最大的问题。当前，ChatGPT最适合用来激发想法，帮助撰写数据摘要，而用于快速信息检索，需要对其提供的事实性答案予以核查。 编辑|程鹏 盖源源 校对|陈柯名 封面图片来源：视觉中国 每日经济新闻综合自央视新闻、新华社、科技日报 每日经济新闻

× 本文是今天下午我在Legal Ops活动上的演讲内容，由科大讯飞进行语音转写为文字稿，再由ChatGPT协助改写而成。这是一个“AI帮助AI”帮助小编的成果。‍ 妥妥的生产力工具！ ——Trialday编者按 今天，我将与大家分享一个主题：GTP对法律人极不友好，但也充满机会。 这个主题实际上源自金沙江创投朱啸虎老师，他曾在一个活动中提到，GTP对企业服务领域的创业者非常不友好。我意识到，作为法律人，我们所从事的也是企业服务，那么其中的不友好因素和机会究竟是什么呢？这个问题一直困扰着我。 无论是律师、法律科技还是投资圈子，大家都在关注与GTP相关的话题。我们的团队背景相当复杂，既有法律背景，也有法律科技创业背景。 在创立新公司之前，我们不断思考一个核心问题：到底我们应该成立一个具有法律服务能力的科技软件公司，还是一个具有科技应用能力的法律服务公司？这个问题对于许多法律圈的创业者和法律科技创业者来说，可能都是一个难以回答的问题。然而，我们认为，在二次创业时，应该重新审视和讨论这个问题。 在第一次创业时，我们尝试利用科技改变甚至颠覆法律圈的工作方式和底层逻辑，但最终并未成功。我们曾归咎于各种外部因素，如环境、政治体系和技术成熟度等。 然而，我们应该更深入地思考：法律服务的核心价值究竟是什么？是可以通过一个问答软件来解决的问题，还是一套综合性解决方案？这些问题至今仍在讨论之中，但我们已经明确了一个方向：在第二次创业时，我们希望尝试另一种模式。在讨论成立新机构时，我们经过深入讨论，最终决定创建一家具有科技应用能力的法律服务公司。 然而，在GTP问世之后，我们感到既兴奋又恐慌，不确定这项技术会对我们产生什么样的影响。经过两三个月的时间，我们自己试用GTP并观察周围的人使用这个工具后，我们得出一个结论：GTP对于法律行业的人来说确实非常不友好。 那么，为什么会如此不友好呢？ 首先，从我自己的经历来看，无论是作为诉讼律师还是商业律师为客户提供解决方案，我认为我们所提供的核心价值在于——法律服务的本质本身就是信息不对等。 作为专业的法律人，我们了解诉讼程序、法官的判决逻辑以及政府审批流程等，然后将其整合为法律服务产品出售给客户。客户所购买的实际上是我们的专业信息。我认为这至少占了法律服务产品内在逻辑的70%到80%。然而，GTP在这方面的表现比我们更快、更好、更清晰。 在这种情况下，我们需要重新思考：如何在GTP的背景下，发挥我们的优势并抓住机会？如何将科技与法律服务相结合，创造出真正有价值的产品？这些问题对于法律行业的从业者来说，既是挑战，也是机遇。 好在目前试用过GTP的人都说，不管这项技术有多好，但有一点非常像人，就是能够一本正经地胡说八道。这也像极了我们很多人印象中的“小助理”形象——当我需要给老板提供一份回答，然后老板会指出许多问题，我会迅速向老板道歉，承认自己经验不足，然后再去查找资料。GTP在这方面的表现确实很快，甚至比我们更好。 作为律师，我的核心技能包括获取信息、检索案例和法律条文，然后从中找到我需要的内容。接下来，我会判断案例是否适用，选用合适的法条，并进行分析。然而，我发现GTP在这些方面比我做得更好，GTP能够迅速搜寻和提供信息，可以快速生成高质量的法律文件。如果信息不对称占据了法律服务行业的70%-80%，那么GTP确实有能力将我们律师取而代之。 这是我面临的第一个恐慌。基于这个恐慌，我遇到了第二个恐慌。 当初我们创业时，我们讨论了我们想要的商业模式。作为律师，我曾专注于处理高端、重大、复杂的诉讼案件。然而，由于各种原因，如经验、资源和律所规模，我发现难以接触到这类案件。在此期间，我处理了一部分“普通案件”，竞争非常激烈。而我们也发现某些法律服务方面，包括批量型的法律服务和流量型的法律服务，这些被称为下沉式法律服务。 我将整个法律行业划了两条“金线”，发现大部分律师都在处理中间那部分业务。他们既没有能力和机会处理高端案件，也不愿意从事下沉式的业务。这类业务繁杂琐碎，例如婚姻家事和金融催收。尽管这些案子看似标准化，但律师并不愿意处理大量重复性工作。 许多律师认为，他们需要一个自由的灵魂，而不是每天在案件中处理重复性工作。然而，高门槛的业务需要我们具备获取资源的能力，判断重大案件的能力，以及处理复杂交易的能力。与此同时，中间那部分业务，尽管并不特别赚钱，却成为大家争夺的对象。 GTP的出现对我们的冲击主要集中在这部分业务上。传统上，律师可以通过积累经验和资历来提高自己的地位。然而，在过去的10年里，法院信息化、数据公开以及大数据时代的到来，已经对律师行业产生了巨大影响。如今，律师必须熟悉大数据和检索技能，才能被认为是专业的诉讼律师。大数据已经在很大程度上弥合了行业内的鸿沟。年轻律师可以通过检索和学习，迅速弥补经验上的短板，消除职业年限带来的专业性差距。 尽管经验一直是法律行业的基石，无论是1万小时定律还是累积资历，这些都在大数据面前变得不那么重要。如今，GPT甚至能够在不需要检索的情况下回答问题，只要你能提出明确的问题，它给出的回答会让人叹为观止。因此，我认为这对我们律师的业务能力产生了巨大冲击，我们之间的经验差距变得不那么重要了。 GPT甚至能根据你的需求编写法律文件、辩护词、分析意见和演讲稿，许多刚入行的律师助理，在面对合伙人的任务时，可能会对如何写稿感到困惑。而GPT可以帮助他们完成这些任务，甚至做得更好。这对我们这个重视信息、内容和经验的行业来说是一个巨大的冲击。在GPT和完整的数据面前，我们似乎变得不堪一击。面对这种压力，我们需要找到反击的方法。 如果我们能将GPT引入国内，并在合规前提下将裁判文书网上的文书输入进去，那我们是不是可以不用检索了？我们只需要直接问GPT在北京朝阳区的民间借贷案件中，大致有哪几种判决思路？我相信GPT肯定比我们律师更快，甚至可能比我们整个律所的力量都要快。这让我们不禁思考，我们的核心竞争力究竟在哪里？ 我曾花了三四个月的时间思考这个问题，从GPT最早的版本推出后，我就开始寻找方法去应用它。经过一段时间的思考，我认为目前至少有两件事情是我觉得我自己比GPT做得更好的： 第一，提出好问题。 爱因斯坦曾说过，提出一个好问题比解决一个问题更重要。在一个充满答案的世界上，好的、准确的问题，却显得更为稀缺。例如，在使用AI生成艺术品时，我们需要提供风格、背景、比例、亮度等各种参数设置。这些设置最后会转化为一段“魔法咒语”，在AIGC软件中输入后，便可以生成想要的作品。 在未来，如果我们能将所有的法律文书数据导入GPT模型，那么律师们可以像哈利波特里的巫师一样，在大屏幕上直接进行语音输入，询问具体案例的相关信息。例如，我可以询问“2021年至2022年期间，在全国范围内（除去某几个省份），某一类案件，原告和被告的主体分别是什么，审理法官的判决思路中的相同点和不同点”。在这样的情景下，我们掌握在脑海中的关键词和“知道自己想要什么”的能力，将成为未来一项稀缺的能力。 这个能力进一步提升，就是了解客户需求的能力。 旭东之前提到的一点让我深有感触，那就是了解客户需求在法律运营岗位中至关重要。因为客户与我们一样，他们并不清楚自己想要什么，他们只是希望找到“好律师”，而我们需要为他们定义什么是“好”律师；法官希望进行类案同判的裁判方向，我们需要明确“类案”的标准。 这并非像给GTP一个简单地关键词，而是一个复杂的思考过程。直到现在。我也没有弄清楚这究竟是一个法律问题、管理问题、还是心理学问题。这涉及到理解自己和他人的能力，挖掘他人想要的东西。然而，如果以GPT继续发展，我们与机器沟通的方式将不再局限于编程能力，而是对提示词和未来结果描述的能力。我认为这是我们不容易被取代的能力。 所有的工具都需要被有效的应用，才能产生理想的效果。在过去的三个月里，我看到了很多类似的信息。有些人在群里嘲笑GPT，让GPT帮他们写合同、写书等。然后GPT给出一段含蓄而内敛的回答，要么说写不了，要么能写，但结果往往令人失望，被批评说这也算合同。我觉得这就像知乎上的经典问答，“为什么有那么多人问愚蠢的问题？”因为你的问题太愚蠢了，机器实在懒得回答。 因此，每个工具都需要得到适当的使用。如果我们能够将GPT视为我们可利用的工具，而不是将其视为限制我们的工具，我们就需要培养使用这种工具的能力。这对于个人和机构都是重要的。 而第二项能力，是针对机构而言的，那就是“提供服务”的能力。 正如朱啸虎所说，对于企业服务来说，第二次机会是交付最终服务的机会。在过去的二三十年里，中国的互联网行业发展迅速，整个行业最大的机会源于模式和规模的发展。很多人并不在意最后交付，比如快递业，我们听到很多关于快递员乱扔和遗失快递的事情，但是由于用户数量足够大和增长速度足够快，所以似乎并没有太大问题。 对于法律服务机构而言，提供的不只是法律知识，还包括法律知识如何进行有效交互的技巧。因为交互是靠人来完成的，而不是靠机器完成的。创业初期我们讨论过的问题是，法律服务不可被替代到底是什么？最终的法律服务交付指的是什么？（是法律文书吗？是我们出庭时的辩词吗？还是客户谈判的技巧？）法律服务的最后一公里指的是什么？（怎样才能将法律服务真正地交付给客户？我们如何通过微信或邮件或口头表述来交付服务？） 而GTP的出现这让问题更加清晰了，因为最不容易被替代的，恰恰是“服务”本身，服务是一个人与人之间关系的体现。 我们在传统的律师业务之外，还在上海和天津分别运营着一个调解中心，为法院提供诉前调解服务。在这个过程中，大量的调解案件是可以通过软件生成标准化的问答过程的。但为什么我们需要人来处理调解案件？因为只要机器打电话给你，不管是什么事情，你的第一反应一定是不会听的。但如果是一个人打电话给你，你可能会多听几秒钟，你可能会回答几个问题，你可能会从中得到解决问题的可能性。这是机器无法替代的人性。在调解业务中，这一点差异可以影响到调解率的提升，而这与技术和话术并不直接相关。因为在服务的最后一公里，人的角色仍然至关重要。 我们在这个时代的信息化进程中发现，服务仍然需要人去完成。底层技术的建设完成之后，服务仍然需要人的参与。在这个快速变化的时代里，我们需要将服务作为核心，努力交付最终的服务成果。这也是我们自己小机构两年左右的经验，我们需要做的是一个以服务为核心的公司，其他的前缀都是为了修饰服务这个词。最终，我们需要将交付服务成果作为我们的最终目标，始终不忘初心。 昨天准备完课件之后，我想起了一个有趣的点子，于是我问了问GPT，把课件里面的主要的梗概输入到GPT里面，然后“以GPT对法律人极不友好，又充满机会”为题目，规定了发言稿的字数限制。 回答里面有一句话我觉得还蛮有意思的， “律师作为人，在为客户提供法律服务时具有无可替代的价值，法律服务并不仅仅是对法律条文和案例的解读，更涉及到对客户需求的理解、关心和支持。GPT虽然能够处理大量法律信息，但他缺乏对人性的理解和关怀。 很多时候客户面临的问题并非纯粹的法律问题，而涉及到家庭事业财产等多方面复杂的情感纠葛。在这种情况下，作为律师，我们需要站在客户的立场上充分挖掘客户的需求，给予关心和支持，以最大程度的维护客户的利益，这正是GPT等人工智能技术无法替代的部分。” 我想，GPT开始能读我的想法了。...