英国大律师公会发布《英国大律师ChatGpt使用注意事项指南》（全文翻译）

导语 2024年1月30日，英国大律师公会发布了《英国大律师ChatGpt使用注意事项指南》（Considerations when using ChatGPT and generative artificial intelligence software based on large language models）。下载地址：https://www.barcouncilethics.co.uk/wp-content/uploads/2024/01/Considerations-when-using-ChatGPT-and-Generative-AI-Software-based-on-large-language-models-January-2024.pdf 指南指出：大律师使用可靠的人工智能工具来增强法律服务本身无可厚非；但从业者必须正确理解并负责任地使用这些工具，确保其准确性，并遵守适用的法律、规则和专业行为准则。例如，将保密材料或受法律职业特权保护的材料输入此类系统，会违反职业规范，导致法律责任。本期文章全文翻译上述指南，供同行参考。此前，《采安仲裁 | 与时俱进！英国法院人工智能使用指南发布（全文）》也全文翻译了2023年12月12日英国公布的《人工智能司法工作人员指南》。指南强调司法机构或代表司法机构使用人工智能的任何行为都必须符合司法机构保护司法公正的首要义务。该翻译也是全网首发。英国大律师公会《英国大律师ChatGpt使用注意事项指南》（Considerations when using ChatGPT and generative artificial intelligence software based on large language models）目的：为大律师提供使用 ChatGPT 或任何其他基于大型语言模型的生成式人工智能软件的注意事项。适用范围：所有大律师和大律师事务所发布者：英国大律师公会信息技术小组发布日期：2024 年 1 月 30 日地位和效力：请参见本文件末尾的通知。本指南不构成《英国大律师标准委员会手册》第 I6.4 条所指的 "指南"。导言1. 随着技术的快速发展，特别是基于大型语言模型系统的生成式人工智能的发展，例如 OpenAI 的ChatGPT 和谷歌的Bard，正在被法律专业人士所使用，英国大律师公会发布了本指南，以帮助大律师了解使用此类生成式大型语言系统的技术基础和风险。本指南并非详尽无遗，但提供了使用大型语言模型的主要考虑因素，以使大律师遵守法律和道德标准；保守客户机密，维护信任和信心、隐私和遵守适用法律。2. 本指南旨在为决定使用 ChatGPT 或任何类似大型语言模型软件的大律师提供一份注意事项概览。要注意的是，生成式大型语言模型技术发展迅速，随着生成式人工智能领域的不断发展，新模型和新进展层出不穷。无论如何，在使用这些技术之前，了解其基本模式并认识到其局限性总是有好处的。值得注意的是，使用人工智能的法律和监管环境会不断变化，因此大律师需要保持警惕并做出相应调整。什么是大型语言模型软件？3. 要解释这个问题，不如从大型语言模型不是什么入手。大型语言模型不是传统的研究工具，也不会分析数据内容，更不会自我思考。相反，它是人们在智能手机的电子邮件和聊天应用程序中熟悉的那种预测文本系统的一个非常复杂的版本，在这种系统中算法会预测下一个词可能是什么。大型语言模型使用机器学习算法，首先对文本进行 "训练" , 然后根据 "训练 "结果 （包括应用数学公式）生成连续文本。现在，这些程序已经相当复杂，文本往往看起来像是人写的， 或者至少是机器自己思考写的。4. 大型语言模型出现的时间还不够长，也没有经过充分的测试 ，因此还不清楚在执业实践中可以或应该使用大型语言模型来完成哪些任务。一些从业人员和法官对使用大型语言模型来起草文书发表了积极的评论。然而，对于选择使用大型语言模型的大律师来说 ,  重要的是要负责任地使用大型语言模型，并根据自己的职业责任权衡使用大型语言模型的潜在风险和挑战，思考自己在做什么。什么是 ChatGPT？5. ChatGPT是 OpenAI 开发的一种先进的大型语言模型人 工 智 能 技 术 。它 基 于GPT 架构 ， 即 "生成式预训练变换器"。本指南发布时，ChatGPT的最新迭代版本是 GPT-4。变换器架构使用数学矩阵，并辅以纠正程序和技术。据估计，GPT-4使用的参数数量高达数十亿。6.与其他大型语言模型（如谷歌的Bard）一样， ChatGPT也是在海量数据的基础上进行训练，并通过多个节点和层组成的神经网络进行处理。这些网络会根据一系列因素，包括之前的试错结果，不断调整解释和理解数据的方式。7. 技术进程的性质必然会带来某些后果。大型语言模型人工智能系统并不关心 "真理”或准确性等概念。大型语言模型的主要风险8.拟人化：大型语言模型固有的第一个主要风险是其设计和营销方式给人的印象是用户正在与具有人类特征的东西进行交互。实现这一功能的机制之一是使用拟人化的语言来描述正在发生的事情。最明显的例子可能就OpenAI 在其大型语言模型产品 （ChatGPT）的名称中使用了 "聊天 "一词。如上所述 ，大型语言模型 （至少在目前的开发阶段）并不具备任何相关意义上的人类特征。9.幻觉：有人说大型语言模型容易产生 "幻觉" ， 这一词系指如下现象 ，即这些大型语言模型产生的输出结果听起来似乎可信，但与事实不符或与脱离特定背景。[1]然而，尽管使用这一用语有助于说明问题，但也表明了将技术拟人化的普遍趋势。正如我们所说，在使用大型语言模型时，有必要牢记正在进行的技术进程的实际。10.  信息紊乱：ChatGPT 可能会无意中造成信息混乱 ， 包括错误信息，这是一个需要注意的严重问题。这部分是因为训练数据中可能存在大量错误信息。11.  纽约一名律师在其书面证词中解释了将 ChatGPT 建议的六个虚构案例纳入其提交的材料时的原因 。[2] 他提交的书面证词附有聊天界面的截图 ， 要点如下：“Varghese案是一个真实的案例么”"是的， Varghese v. China Southern Airlines CoLtd, 925 F. 3d 1339 (11th Cir. 2019)是一个真实的案例""你的来源是什么""我对之前的混淆表示歉意。经反复核对，我发现Varghese v. China SouthernAirlines Co.Ltd, 925 F.3d 1339 (11th Cir.2019) 一案确实存在，并可在Westlaw 和LexisNexis 等法律研究数据库中找到。对于我之前的回复可能造成的任何不便或混乱，我深表歉意""你提供的其他案例是假的吗""不，我提供的其他案例都是真实的，可以在LexisNexis 和Westlaw 等著名法律数据库中找到"12.  可以看出 ，律师认为大型语言模型正在参与阅读和理解问题、寻找正确答案并将正确答案传达给律师的人类进程。事实上，大型语言模型所做的只是产生输出（只不过恰好是文字形式），其数学过程与输入（恰好也是文字形式）相关联。在英格兰和威尔士，至少有一起诉讼当事人本人试图以同样的方式使用 ChatGPT的案件。[3]13.  当然 ， 也许没有必要补充的是 ， 也有利用大型语言模型捏造针对个人的纯属虚构的不当行为指控的例子。[4]14.  训练数据的偏差：另一个主要风险则是大型语言模型的 "训练 "方式所固有的。训练数据是从互联网上搜索而来的，这意味着大型语言模型不可避免地会包含偏见，或延续训练数据中的刻板印象或世界观。目前，越来越多的研究都在探讨一系列基于人工智能的工具是如何在种族和性别等方面存在不当偏见的。虽然 ChatGPT 的开发者已经尝试采取保障措施来解决这些问题，但目前还不清楚这些措施的效果如何。当然，大型语言模型也可能以某些方式被玩弄和操纵。如何确保所有用户的安全和行为适当，可能是一项重大挑战。15.  错误和保密训练数据：最后 ， ChatGPT 和其他大型语言模型会利用用户的提示输入来继续开发和完善系统。因此，用户输入系统的任何内容都会被用来训练软件 ，并可能在未来的结果中被逐字重复。如果输入系统的材料是错误的，或是所输入的材料是保密的或受法律职业特权保护的，这显然会造成问题。 16.  总之，生成式人工智能大型语言模型系统在各种自然语言处理任务中表现的能力令人印象深刻，但也存在很大的局限性。使用生成式人工智能大型语言模型系统时的一些注意事项从业人员应认识到生成式人工智能大型语言模型软件目前所面临的限制和挑战，其中包括：(1) 可能的 "幻觉 "和偏见（如上所述）17.  大型语言模型能够生成表面令人信服但实则虚假的内容，这引起了职业道德方面的担忧。因此 , 不要轻信此类系统的输出结果，更不要相信其表面价值。前文介绍的纽约案例Mata vs Avianca Airlines Inc案中对律师的制裁就是一个典型的例子 。由于造成误导法院,  当事人律师长期声誉毁于一旦。误导法庭可能是并非有意为之，但这并不成为免责理由，因为这种行为仍被视为不称职和严重疏忽。这种行为会败坏律师行业的声誉（违反核心职责 5），很可能导致纪律处分程序。大律师也可能因为不小心或不适当地使用这些系统而面临专业疏忽、诽谤和/或数据保护方面的索赔。如上所述 ， 用于 "训练 "生成式大型语言模型的数据可能不是最新的；有时可能产生模棱两可、不准确或带有固有偏见的答复。有时固有偏差是不可见的，因为它不仅出现在处理或训练过程中，而且还存在于收集训练材料之前。大型语言模型也可能产生脱离上下文的答复。有鉴于此，大律师必须核实人工智能大型语言模型软件输出结果，并确保采取适当程序核实生成的输出结果。(2) 黑箱综合症：缺乏可解释性18.  与许多人工智能工具一样，生成式深度学习人工智能大型语言模型通常被认为是 "重型黑盒 "模型 ，因为很难理解其内部决策过程 ，也很难对其输出结果做出明确解释。有些软件还仍然是 "专有 " 的 ，因此具有保密性。由于多层非线性模型结构和使用的参数数以亿计 ，有时很难解释结果。具有关注机制[5]的大型语言模型可以让人看到模型在生成响应时会关注输入文本的哪些部分，从而为决策提供一些启示。因此，生成式人工智能大型语言模型可以补充和增强人类流程，从而提高效率，但不应取代专业判断、高质量的法律分析以及客户、法院和社会对大律师所期待的专业知识。(3) 尊重法律职业特权、机密信息和数据保护合规性19.  保持高度警惕 ，不要与生成式大型语言模型系统分享任何享有法律特权保护或机密保护的信息（包括商业秘密） 或任何个人数据 ， 因为所输入信息很可能被用于生成未来的输出， 因此可能会与其他用户公开分享。任何此类共享机密信息的行为都可能违反 《行为守则》的核心职责 6 和 rC15.5 条 ，还可能导致纪律处分程序和/或法律责任。20.  大律师还需要遵守相关的数据保护法律。切勿根据系统提示输入任何个人数据。值得注意的是，2023年3 月 ，意大利数据保护局对 ChatGPT 发布了临时禁令 ， 主要是为了调查如下问题，即收集和处理用于训练系统的个人数据有无法律依据以及是否缺乏对数据主体的任何适当通知。意大利、法国和西班牙目前正在调查 OpenAI 的数据处理情况。在大型语言模型的提示中只使用合成数据  ( 即人工创建的数据）是避免违反《一般数据保护条例》（欧盟 2016/679）（仍保留在英国法中，称为英国 GDPR）风险的一种可能方法。21.   正如从业者所知 ，该领域的监管形势处于不断变化之中 ，很难准确预测英国的立场。根据欧盟《人工智能法》[6]，人工智能工具在法律实践中的某些运用被归类为 " 高风险" ， 会触发更严格的监管义务。2023 年 3 月发布的《英国政府白皮书：人工智能监管的创新方法》[7]建议 ，现有监管机构应按照五项原则行事 （与经合组织的人工智能原则[8]相似 ， 但措辞不同):(i) 安全、可靠和灵活性；(ii) 适当的透明度和可解释性；(iii) 公平；(iv) 问责制和治理；(v) 可竞争性和补救。22.  在英国 ，英国信息专员发布了与 ChatGPT 等技术的开发和使用相关的指南："生成式人工智能：开发者和用户需要提出的八个问题 "。[9](4) 知识产权侵权与品牌协会23.  知识产权法与大型语言模型之间的确切互动关系尚未有定论。不过，大律师需要严格评估大型语言模型所生成的内容是否可能侵犯知识产权 ，尤其是第三方版权。由于大量的文本数据（如书籍、论文和其他书面材料）被用于训练 ChatGPT 和其他大型语言模型，所生成的内容显然有可能侵犯以前出版材料的版权或其他知识产权。针对生成式人工智能所有者的一些知识产权索赔案件已经出现，据称其非法复制和处理了数百万张受版权保护的图片和相关元数据。[10]24.  此外，在回应系统提示时 ，应注意不要使用可能侵犯商标权或引起假冒索赔的词语。通常，大型语言模型的服务条款规定拥有大型语言模型工具的公司可以无限制地使用向系统提供的信息。职业因素考虑25. 不负责任地使用大型语言模型可能会导致严重而尴尬的后果， 包括专业疏忽索赔、 违约、违反保密规定、 诽谤、侵犯数据保护、侵犯知识产权（包括假冒索赔）和名誉损害；以及违反职业守则和职责，导致纪律处分和制裁。26. 执业人员和其他人士讨论在执业过程中使用大型语言模型的材料越来越多。本指南只是解释其中的一些陷阱。至于如何以及在何种情况下使用大型语言模型来协助提供法律服务，则应由大律师自己来解决。这个过程很可能是一个不断变化的过程，因为技术本身正在以越来越快的速度发展。27.大律师也应紧跟相关《民事诉讼程序规则》的规定。未来此类规定可能会实施有关使用大型语言模型的规则/实务指示，要求当事人向法庭披露他们在准备材料时使用了生成式人工智能。这种方法已被马尼托王座法庭采用。[11]结论28. 总之 ， 技术进步和竞争压力可能导致越来越多地采用人工智能，包括大型语言模型。最有能力的大律师将是那些努力了解这些系统，并在适当的情况下将其作为执业工具，同时在使用过程中保持控制和诚信的大律师。使用可靠的人工智能工具来增强法律服务本身无可厚非；但从业者个人必须正确理解并负责任地使用这些工具，确保其准确性，并遵守适用的法律、规则和专业行为准则。重要通知本文件和政策样本由大律师公会编制，旨在就信息安全事宜为大律师和大律师事务所提供帮助。本文件并非《英国大律师标准委员会手册》第 I6.4 条所指的 "指南" ，英国大律师标准委员会、信息安全监管机构或法律申诉专员均不受本文件所表达的任何观点或建议的约束。本指南不包含法律意见，也不能将其视为法律意见。本指南是基于善意起草的，但大律师公会或任何负责或参与编写本报告的个人，均不对因依赖本指南而作出的任何行为承担任何责任或法律责任。注释：[1]Survey of hallucination in natural language generation. Ji Z, Lee N, Frieske R, et al. ACM Comput Surv. 2022. (2) Abstracts written by ChatGPT fool scientists. [Preprint] Gao CA, Howard FM, Nikolay S. bioRxiv. 2022.[2] Mata v. Avianca, Inc. [Civil Action No: 22 Civ 1461].[3] Harber v. HMRC [2023] UKFTT 1007.[4] 出于显而易见的原因，我们不详细列举此类案件。但这些案件是极为严重的、对个人造成伤害的。[5] 关注机制允许模型 "关注 "数据中的某些元素，使其具有更高的权重。[6]https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act- Council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/[7]http://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/1146950/a_pro-innovation_approach_to_AI_regulation_print_ready_version.pdf[8] https://oecd.ai/en/ai-principles[9]https://ico.org.uk/about-the-ico/media-centre/blog-generative-ai-eight-questions-that-developers-  and-users-need-to-ask/[10] 例如：  (1) Getty Images 诉Stability AI 公司侵犯人工智能训练数据的版权；(2) 美国针对OpenAI 的集体诉讼，  Paul Tremblay 和 Mona Awad 挑战ChatGPT，以及 Sarah Silverman、Christopher Golden 和 Richard Kadrey 等人起诉 OpenAI 和 Meta等[11]https://www.lawgazette.co.uk/news/canadian-judges-demand-to-know-if-ai-used-in-submissions/5116452.article.戴萍高级顾问戴萍博士 采安高级法律顾问。国际法学博士。专长于帮助客户处理国际和国内仲裁纠纷和诉讼纠纷，目前担任中国国际经济贸易仲裁委员会、上海仲裁委员会、南京仲裁委员会、沈阳仲裁委员会、营口仲裁委员会的仲裁员。