system: [SYSTEM]

user: 2. 人工智能判断刑事证明标准存在的主要问题 上述人工智能判断刑事证明标准的方式，虽然有其独到之处，发挥了人工智能相应的优势。但在实践中，还是存在了诸多问题和争议，下文将从人工智能系统本身、运用过程和运用结果三个角度对出现的主要问题进行分析。 2.1. 系统本身的技术限制 由于智能系统本身的技术缺陷，在进行刑事证明标准判断时，智能系统自带的算法会衍生出许多问题。如，判断方式框架化，算法黑箱，算法偏见等因素导致的判断方式僵硬，人工智能系统的安全性等问题。 2.1.1. 人工智能系统的判断方式过于形式化、僵硬化 在判断刑事证明标准过程中，司法人员理应采取主客观相结合的方式，去应对各种各样的案件。而人工智能办案系统由于设计者的初衷，对案件的进程进行了一步一步的规划，拟定了一个既存的框架对证据进行判断。无疑是想一蹴而就，制定一把通用的尺子去丈量纷繁复杂的案件。这种做法可不可取呢？试想，在司法实践中，科学技术的快速革新，犯罪分子犯罪的方式层出不穷，滋生大量的新型案件和疑难杂症的案件，人工智能办案系统能以固有框架去逐一对证据进行审查判断，提高司法效率吗？以“206”系统为例，该系统只是通过对大量案件进行整理，对案件中各个要素进行分类，对每一个要素的各个条件给予甄别判断，并且只有完成目前的步骤，才能开展下一阶段。有相关使用者说道，我在办一个盗窃案时，“206”系统识别出案件的卷宗里缺少鉴定意见，当时还十分庆幸这个系统非常实用。但在另外一个盗窃案中，失窃的是人民币，系统也提出缺少鉴定意见并要求进行相关的解释，我就对该系统弃之若履了，后面在也没有使用过。综上，目前的人工智能技术判断刑事证明标准过于形式化，僵硬化，需要技术人员进行不断的升级，有一定的滞后性，有可能影响司法的公正。法律源于生活，不能用一套固定的规则对生活中形形色色的人情关系进行简单的直接套用，这样做会把灵活多变的判断方式进行模板化，套路化，不利于司法的发展。 2.1.2. 人工智能系统的安全性无法保障 人工智能技术的本质是算法，不断的数据输入到结果输出，计算机可以对数据经验的自动学习生成高级认知框架，但这种机器学习的过程是不透明的，这种不透明性导致了算法黑箱 [ 4 ] 的存在。一方面，算法设计者一般也是非法学领域的高端人才，对有些专业的晦涩难懂的法律专业术语可能会产生认知误差，这也进一步导致了算法的不确定性，导致人工智能得出的结果出现偏差。另一方面，人工智能系统基本都是由第三方技术开发公司研发的，对于系统的定期维护、升级，一般也外包给这些公司。这种雇佣关系，很容易造成不法分子通过此渠道窃取相关的个人隐私和商业机密，更严重者造成涉密信息的泄露。由于卷宗的特性，里面会详细记载与案件相关的任何信息，一旦第三方技术公司掌握了这些信息，我们就很难控制信息不被泄露，毕竟“高价之下，必有勇夫”，所以这方面我们应引起极大的重视。还有一点，第三方技术公司可能会借助人工智能系统干预司法公正，降低司法公信力。如，腾讯和浙江高院联手打造的“微法院” [ 5 ]，只要浙江法院审理跟腾讯公司相关的案件，公众都会心存疑虑，对判决结果抱有怀疑的态度。设计人工智能办案系统的初衷，本来是为了在保障司法公正的同时提高司法效率，但现在的情形却有点违背了设计的初衷，把司法的公正性推到了风口浪尖。 2.1.3. 人工智能系统可能存在主观偏见 算法偏见 [ 6 ]，近期受到社会广泛关注。机器怎么会带有偏见呢？前文提到，人工智能的本质是算法，人工智能系统是技术研发人员通过计算机语言进行编写的程序构成的。在算法的编写期间，技术人员把自己的价值判断通过算法灌输到了人工智能系统，所以在这个过程中就有可能把自己的偏见移植给了系统。在人工智能系统对刑事证明标准进行判断时，这种偏见会让判断结果产生差异。据相关研究显示，在美国刑事司法领域中运用的风险评估工具对被追诉一方的肤色存在种族偏见，对不同肤色的人给予了不一样的风险评估指数，所以人工智能系统可能存有主观偏见，并不是空穴来风。当然，就目前来看算法偏见在国内还没出现此类现象，其原因可能是因为国内人工智能技术还在起步阶段，主要还是在做一些简单数据分类处理，导致这种现象不明显。但我国应借鉴域外的经验教训，提前防范于未然，让此类可能影响对刑事证明标准进行判断的因素扼杀于摇篮之中。毕竟对刑事证明标准的判断关乎到无罪与有罪的界限，是刑事领域中打击犯罪和保障人权的关键所在，所以消除机器带来的偏见问题，我们仍应引起高度重视。 2.2. 过度依赖导致法官自由裁量权受限 不可否认，人工智能技术在刑事证明标准领域，为司法判断人员提供了很大的便利，提高了进行证据审查、判断时，司法资源的利用率。“人 + 机”的刑事证明标准判断方式，也符合当下国家大力建设科技强国，智慧法院的时代背景。但在此类智能系统的运用上，容易造成法官对智能系统的过度依赖，一方面，这种智能系统的运用可以间接的缩小法官对自己的自由裁量权的适用范围。近年来案件检索系统和裁判文书系统的逐渐完善，相应的智能系统也投入到司法实践的运用当中。比如前文所述的“206”智能办案系统，让案件资源共享在法官之间成为了便捷的桥梁，法官可以随时对类似案件进行检索，查看其他法官在针对类似刑事证明标准判断问题相应的经验和做法。但带来便利的同时，更需要引起我们关注的是，若法官不能独立进行对刑事证明标准的判断，过多依赖人工智能系统，容易造成大事小事一手抓的社会风气，造成法的滥用。人天生具有思想惰性，容易对既有的规则或模式过度套用，对法官的自由裁量权起到不良的作用。另一方面，虽然目前人工智能在刑事证明标准领域中的运用，主要涉及对刑事证据进行形式审查，停留在对证据能力进行判断的层面，致使大多数人工智能系统和司法实践相结合的模式还停留在初级司法人工智能阶段。但随着科技快速革新，人工智能或许可以帮助法官在进行刑事证明标准判断时，进行一些简单的逻辑上的推理和论证。所以如何解决过度依赖问题，把握人工智能和刑事证明标准判断之间的动态平衡，是保障法官自由裁量权在刑事证明标准的判断之中不被削弱的关键之处。 2.3. 出现判断错误时责任主体如何确定 每一个新兴事物的前期发展，解决新老问题都是其出初期到成熟期的必经之路。科技本身的滞后性，必将导致人工智能在对新案或疑难案件中刑事证明标准的判断上出现问题。这是在智慧司法的建设过程中我们不得不解决的问题。目前国内也没有相应的法律法规对这一点进行明确的规定；反观域外，人工智能系统也主要是集中在律师事务所，其责任主体相对明朗，而在我国的法治大背景下，“人工智能 + 法院”的智能系统办案方式的处境显得十分严峻。在我国实行法院终审制度，意味着法院是定纷止争，惩罚犯罪分子，保障人权的最后手段，其中司法人员对刑事证明标准的判断起着决定性的作用。智慧法院的建设初衷，是为了实现同案同判，统一证据标准，严格规范司法工作人员在各个诉讼环节中的行为，提高民众对司法的公信力。所以，在出现判断事故时，责任主体如何确定显得极为重要。 纵观人工智能在刑事证明标准判断中的三种模式，智能办案系统本身具有很强的技术性，这导致了这些智能系统的研发一般交由第三方机构。那么人工智能在帮助司法人员进行刑事证明标准判断时出现司法事故，将由谁来承担责任？系统本身、第三方技术研发公司还是司法工作人员？每一个责任主体承担责任会导致不同的社会影响，比如归于智能办案系统本身的责任，这无疑是把司法判断失误当成是意外事故，这样做会导致公检法等司法机关怕用、不敢用甚至不能用。公检法作为国家公权力机关，本身应保证自己决策的正确性，才能提高社会的公信力，频繁的错误必将导致民众信赖被消耗殆尽，不符合法治精神。所以，人工智能系统判断刑事证明标准时出现事故，怎样合理划分事故责任，确定承担责任的主体，还值得商榷。