文章主题：AI辅助司法, 律师工作, 合规风险, 《人工智能（AI）司法人员使用指南》

肖飒团队 | AI辅助司法与律师工作：可能的合规风险

AI时代来临，司法工作如何应对？

作者 | 肖飒团队

在2023年的今天，随着各种AI技术的日益普及，以及律师行业对于未来可能被AI取代的担忧逐渐加剧，我们的团队曾发表过一篇名为《AI时代的法律行业挑战与机遇》的文章。文中明确指出，虽然AI技术的发展势头强劲，但在当前阶段，它还无法替代律师的职业功能，甚至有可能为律师工作带来诸多困扰。

在当时，我们认为这样的观点同样适用于法官、检察官等法律专业人士。然而，未来充满了不确定性，”打脸”的现象突然出现。2023年12月12日，英国司法机构官方网站发布了《人工智能（AI）司法人员使用指南》（简称《指南》）。在该指南的引言部分，明确表示发布此指南的目的在于协助司法人员更好地应用人工智能技术。今天，飒姐团队将为大家重点介绍《指南》的核心内容及其潜在影响。

1.使用AI工具的局限性

必须明确指出，《指南》中的内容相对较为抽象且原则性较强，并未提供具体的使用规定。然而，从该指南中仍可窥见英国司法机关对人工智能的整体立场和看法。

在首部分中，《指南》对人工智能应用的一般性限制进行了阐述。首先，我们必须认识到，由于AI的回复或生成内容依赖于其算法、训练数据以及输入的提示词，因此它的输出内容可能是最可能的，但并不一定是准确的。这是所有AI应用普遍存在的缺陷。其次，AI工具的最佳使用方式是寻找已知正确的信息，而不是验证信息的准确性。它们很难提供直接的正确事实。第三，由于AI输出的内容的不确定性较大，使用不同AI工具得到的答案质量也会有所不同，即使是高质量回复，其提供的信息也可能存在不确定性。最后，我们需要注意到，由于市场上知名的大语言模型通常基于美国法律输出法律观点，因此需要考虑法律体系不同带来的回复差异性。

2.英国司法人员应该如何使用AI工具？

随后，在这些通用缺陷之外，《指南》还重点强调了在使用时要注意以下要点：

1、严格保密。出于司法人员的保密性要求和工作内容的需要，司法人员在工作时往往会获知一些个人隐私信息或者其他要求保密的信息，由于AI工具通常会将输入端信息进行采集，并且可能会存在类似于聊天记录的设置，同时使用手机或电脑等电子设备的各类权限，《指南》因此明确，要求司法人员在使用AI工具时，默认所提供的所有信息均会被视为能够公开，由此不得输入此类隐私信息或者保密信息，同时也应当禁用聊天记录（如有），拒绝AI工具访问设备信息。

2、确保准确。如前所述，AI工具所提供的回复很可能是不准确的，比如它们可能提供虚构的案例、编造的法律文本、错误的事实描述等等，因此，在司法人员使用AI工具时，必须对其准确性进行检验，即便其宣称其所使用的内容是正确的。

3、注意偏见。正如我们往往所提及的那样，训练数据的选取可能会致使最终导致的结果的偏向，因此，无论在什么时候使用AI工具，都应当注意其中可能存在的偏见或是错误，避免受到AI工具的影响。

4、保证安全。出于安全方面的考虑，司法人员必须使用工作设备去访问和使用AI工具，并且也应当使用工作邮箱开展相关工作。同时，由于付费订阅服务往往有更好地安全性，因此如已订阅应尽可能使用此类服务，且最好直接使用AI平台的服务，而不是通过一些中间的授权商进行，以提高自身的安全性。

5、对于其他参与主体使用AI的要求。《指南》指出，目前一些AI工具已经被法律人士长期使用，而对于这些人员而言，其负有确保其向法院所提交的材料的准确性和适当性的义务，如果其履行了相关义务，那么其无需向法院声明其在过程中使用了AI工具。但就目前而言，法院仍然有对个别律师进行提醒的必要，并确认他们已经验证了相关内容的准确性。而对于其他非专业人士的当事人而言，如果他们没有聘请律师而独立使用AI工具，那么考虑到其了解法律的局限性，如果司法人员在案件过程中了解到当事人可能使用了AI工具，那么就应当对此进行询问并确定其是否验证了真实性，在此基础上还应额外确认其准确性的验证是否合适。显然，《指南》针对法律人士和非法律人士使用AI工具参与司法程序的要求作出了区分，对法律人士采用了更为严苛的标准，要求其必须履行一定的义务，而对于非法律人士则更为宽容。

《指南》在结尾部分详细阐述了AI工具的潜在应用场景，以便于广大用户更好地把握这些工具的价值和作用。（1）首先，AI工具可以协助用户对这些繁杂的文本信息进行梳理和概括，从而提高信息的准确性和可读性；（2）其次，AI工具还可以应用于演讲创作，为用户提供撰写演讲稿的建议和指导；（3）最后，AI工具在行政工作中也具有很大的用处，例如可以自动生成备忘录等文件，提高工作效率。

《指南》指出，AI工具在司法系统中的最佳运用场景应为那些无需明确观点、单调且重复性的任务。这一观点与我们团队当前对AI工具的应用理念相符。

3.国内法官可以使用AI工具吗？

在我国现行的法律法规中，尚未明确规定司法人员禁止使用人工智能（AI）工具。因此，针对法官是否可以运用AI工具的问题，我们需要依据现有法律法规进行探讨和分析。

《法官法》第四条规定，法官应公正对待当事人及其他诉讼参与人，确保所有个人和组织在适用法律上得到平等对待。第五条规定，法官应勤勉尽责、清正廉洁、恪守职业道德，这不仅是法官职责的要求，也是司法公正的重要保障。第六条规定，法官在审理案件时，应以事实为依据、以法律为准绳，始终保持客观公正的态度，这体现了法官在司法过程中的严谨性和公正性。这些规定共同构成了法官工作的基本原则，为我国法官队伍的健康发展提供了重要指导。

在此基础上，《法官法》第四十六条明确指出：

“法官有下列行为之一的，应当给予处分；构成犯罪的，依法追究刑事责任：

（一）贪污受贿、徇私舞弊、枉法裁判的；

（二）隐瞒、伪造、变造、故意损毁证据、案件材料的；

（三）泄露国家秘密、审判工作秘密、商业秘密或者个人隐私的；

（四）故意违反法律法规办理案件的；

（五）因重大过失导致裁判结果错误并造成严重后果的；

（六）拖延办案，贻误工作的；

（七）利用职权为自己或者他人谋取私利的；

（八）接受当事人及其代理人利益输送，或者违反有关规定会见当事人及其代理人的；

（九）违反有关规定从事或者参与营利性活动，在企业或者其他营利性组织中兼任职务的；

（十）有其他违纪违法行为的。

法官的处分按照有关规定办理。”

其中，使用AI工具最有可能符合其中第三项、第五项的规定。与英国官方的担忧相同，国内的AI工具也可能存在收集和存储输入信息的可能性，一旦法官在使用AI工具时，输入了法官掌握的国家秘密、审判工作秘密或者证据材料中记载的商业秘密、个人隐私，那么就存在泄露前述信息的风险，从而受到处分，严重者甚至可能构成犯罪。

此外，如果法官使用AI工具进行文书的撰写或者说理，那么根据《法官法》的要求，同样需要对所撰写的内容的真实性和适当性进行核查，否则就违背了法官工作勤勉尽责的要求，也可能导致裁判结果出现错误因而引发严重后果。因此，现阶段如司法人员们试图使用AI工具辅助工作，那么《指南》便在一定程度上提供了参考。

4.写在最后

AI技术的发展越发迅速，在可以预见的未来里，对于AI的使用能够有效地提升工作的效率，但这并不意味着我们应当完全依赖AI。尤其是在法律领域，AI对于法律法规的解读以及对事实的判断，至少在今天完全不能取代法律工作者。《指南》为英国的司法人员们提供了使用AI工具的有益尝试，各位老友们在使用时也需小心谨慎，秉持慎重态度。

来源：肖飒团队

编辑：Sharon

AI时代来临，司法工作如何应对？返回搜狐，查看更多