【内容摘要】当下人工智能愈加深入地参与到法庭审判之中，人工智能介入司法审判成为切实的问题。从可解释性出发，人工智能介入司法审判至少应当满足三个条件：第一，尊重法官的主导性地位，主动阐明人工智能的涉案事实；第二，以受众可接受的方式增强人工智能的可解释性；第三，人工智能应谨慎适用于刑事审判领域。

【关键词】智能审判  可解释性  人工智能

□朱瑞

随着人工智能与法律的不断结合，人工智能介入司法审判的条件和限度日益引起人们的关注。人工智能不断调整自身而提高预测的准确性，但这种快速的变化对法律的确定性而言却是一项巨大的挑战。人工智能深刻影响着每一名参加庭审的人员。对于当事人而言，他能否接受由在场的人根本无法理解的算法为依据的判决结果？司法审判是否可以直接应用人工智能或者相关算法预测的结果？法官是否有权让人工智能的操作者或设计者对他们的算法作出必要的解释？如果需要，那么对于哪些算法需要解释，以及通过什么样的形式解释？这些都共同指向一个命题：人工智能参与司法审判需要满足哪些条件。

一、尊重法官的“王侯”角色

德沃金说，“法官是法律帝国的王侯。”学术界对于人工智能的讨论极其多样化，但大家似乎集体忽视了一个重要的角色——法官。他以正义之名主导着审判程序，但在人工智能介入司法之时却未引起足够关注。当每个人在法庭上似懂非懂地讨论人工智能为己方提供的证据时，当每个人不自觉地将人工智能看作一个黑匣子——只提供结论拒绝提供理由和推演过程时，法官便应该凸显他的作用，命令当事人对介入到本案的人工智能进行解释。

不解释，无尊重。常理而言，我们无法接受一个根本不理解问题的人所作出的裁决。遗憾的是，目前并没有相关的法律要求当事人对黑匣子式的人工智能作出解释。如果能在具体的司法实务中加强对人工智能作出解释的要求，那至少能够产生案例经验积累的良好效果，从而为将来制定人工智能的司法解释规则乃至立法工作打下良好的基础。除了黑匣子特征外，由于现在的人工智能发展集中于科技与商业领域，那就意味着关于人工智能的话语权与解释权大多集中在社会的私主体之中。那即使出于公共知情权的考虑，也应当让法官参与到构造司法领域人工智能的解释之中。当人工智能进入法庭这一由法官主导的领域时，它应该对法官示以尊重，也即呈现出可解释的状态。

二、增强人工智能的可解释性

增强人工智能的可解释性可以帮助人们理解或解释机器学习模型得出最后结论的过程，这种解释是指算法的透明化，即通过算法的回溯得出人类可以理解的过程之近似值。增强人们对于人工智能所提供结果之信任，尤其在人工智能提供的结论存在巨大争议的情况下，算法的追溯与公开便尤为重要。对社会而言，公开算法过程可以增强我们对于现实世界的理解；对法官而言，溯源性的展示人工智能的推理过程将增加司法裁判的说服力。

增强人工智能可解释性应当注意以下问题：一是避免算法失效。如果将人工智能的核心代码进行披露，可能会造成该算法的失效，当人们刻意规避该算法其准确率便会大幅下降。二是保护商业秘密。作为前沿技术的人工智能算法，其构建成本极为高昂，一旦在司法过程中对其进行溯源式公开，便意味着开发者将被迫披露商业秘密，可能对未来的科技创新造成阻碍。当然，对于“在解释的过程中如何展示该算法的重点？采用何种计算机解释理论？如果存在商业秘密的争议，法院应否秘密审查算法？是否应当将算法交由独立的第三方进行审查？”等问题还有待学理上进一步的研究。

三、保持刑事诉讼中的“谨慎”姿态

相较于民事和行政等方面而言，刑事审判处在人权保护的最前沿，人工智能参与刑事审判更应凸显出慎重的色彩。在美国的一个刑事案件中，人工智能应用程序“替代性制裁的罪犯管理支持系统”（COMPAS）将被告归类为高再犯风险人群，被告当即表示不服，他认为法官根本没有能力对该系统所作出的准确性进行评估，在说理过程中引用算法的结论侵犯了其正当程序权利。

在刑事审判中，人工智能算法在控制犯罪行为以及定罪、量刑、行刑等活动中扮演着越来越重要的角色。具体案件中，法官通常需要评估犯罪嫌疑人的社会危害性，在量刑时也需要考虑犯罪嫌疑人的再犯罪可能性。在过往，这只能依赖法官个人对材料和经验的感知作出相应预判，而以犯罪行为大数据为依托的人工智能算法则极有可能帮助法官最大程度地避免个人偏见，在不影响公共安全的情况下帮助减少监狱的服刑人员，维系社会公平正义的平衡。

但是，出于公平和可信的考量，法官在运用算法的结果时，应当对算法的运作方式及基本原理作出相应的解释。如果法庭对其所引用的算法保持解释上的沉默，那便有可能引起当事人和辩护律师的疑惑，甚至容易让人联想起古代的神明裁判。在刑事司法领域，本已足够强大的公权力加持不透明的算法更有如虎添翼之嫌，故并非所有的领域都要积极热情地拥抱人工智能，至少在刑事审判领域应该谋定而后动，三思而后行。

SourcePh" style="display:none">