您当前所在位置:首页 > 新闻中心 > 理论研究
算法决策隐蔽性与司法裁判公开性冲突及融合路径————从K最近邻算法视角切入
来源:   发布时间: 2020年04月09日

论文提要:

随着智慧法院建设的深入推进,各类司法辅助办案系统的相继出现,在给司法裁判提供方便的同时也带了新问题和隐患,尤其是居于人工智能系统核心作用的算法,随着对司法裁决过程渗透的不断深化,有必要正确认识理解算法决策的隐蔽特性,本文围绕算法决策包括不公开性、算法暗箱、依赖性、算法偏见在内的隐蔽性对司法裁判公开的理念、成果、要求等方面存在的冲突进行介绍及分析,在借鉴域外国家对算法决策隐蔽性进行规制的经验基数上提出通过强化司法人员的主体地位,避免形成“路径依赖”、算法决策者履行披露公开义务、注重培养复合型的人才、提升算法训练数据的质量、成立算法审查专门机构等措施实现算法决策隐蔽性与司法裁判公开性之间实现融合共进。在此基础上,本文也提出通过上述举措倒逼司法裁判者更加规范运用法律知识,打牢算法决策的基础,以实际行动构建人工智能助理审判现代化,助推智慧法院建设。

全文共9888字。

主要创新观点:

在算法、计算能力、大数据三驾马车的推动下,人工智能介入司法裁判的正向应用越来越多,这也是智慧法院建设的必然要求,但是如何更好的让人工智能产品与法院工作有效衔接、深度融合,避免出现国外人工智能产品在运用到司法裁判中产生的负面影响,尤其是因为算法决策造成的算法黑箱、算法歧视问题,本文以算法运用原理较为简单的KNN算法为切入点,对其在司法人工智能产品中的运作原理进行简单介绍,并对其存在的优缺点进行分析,通过审视KNN算法分析出其他算法亦具有的特点,从算法的特性中选取出隐蔽这一特性,并对隐蔽性进行分条深入分析,从而确立本文的主旨即算法决策隐蔽性与司法裁判公开性冲突及融合路径,通过研究认为,“智慧法院”中“智慧”和“法院”蕴含的逻辑关系给出了研究的答案,即法院的智慧依靠法官,而智慧的法院则需要技术,两者又存在统一融合的关系,在发挥法官主观能动性,尊重司法被动属性的前提下,借助技术即本文列举的相应举措共同推进智慧法院的建设。

一、算法是人工智能的重要支撑及其作用

《人民法院第五个五年改革纲要(2019-2023)》(又称五五改革纲要)中指出借用现代科技手段提高智慧法院建设水平,形成信息化建设与司法体制改革合力,共同推进审判体系和能力的现代化。可以预见,在未来的一段时间内,人工智能驱动的“智慧法院”建设将会成为法院系统的工作重心,用人工智能来推动智慧法院的建设亦是应有之义。计算能力、大数据、算法是构成人工智能的三个核心构成要件而算法居于其中的核心地位,算法在人工智能运用中是以各种计算机代码的形式,决定着人工智能设备在运行处理问题时的进路及实施,犹如人类大脑中的中枢神经指挥系统,算法技术开发人员的技术和思想用各类算法体现的淋漓尽致,算法的作用在于认识、提炼、总结法律决策的规律,而采用何种算法是决定司法人工智能的效果的关键。本文以最近邻算法为切入点,对其在司法人工智能产品中的运作原理进行分析,推而广之,从算法的特性中选取出隐蔽这一特性,并对隐蔽性进行分条深入分析,从而确立本文的主旨即算法决策隐蔽性与司法裁判公开性冲突及融合路径。

1.何为K最近邻算法。

最近邻(k-Nearest Neighbor,KNN)算法,是一个理论上比较成熟的方法,也广泛用于司法人工智能领域。该方法的思路是:如果一个样本数据在某个特征空间数据集中有K个最相似的样本,而这K个最相似的样本属于同一种类别,则这个样本数据就应该属于这一种类别数据。例如如果已知一个人的大部分朋友的爱好,要把这个人的爱好用最简单的分类问题做预测,办法就是通过统计他最亲密的K个朋友中最多的爱好。如下图,圆要被决定这个人喜欢的爱好,是三角形(比如说是篮球类)还是四方形(比如说是乒乓球类)?如果K=3,由于三角形所占比例为2/3,圆将被赋予三角形那个类,也就是喜欢篮球,如果K=5,由于四方形比例为3/5,因此圆被赋予四方形类,也就是喜欢乒乓球。

在KNN算法中,通过计算数据集中各数据之间距离来作为各个数据之间的非相似性指标,避免了数据之间的匹配问题,在这里距离一般使用欧氏(欧几里得)距离或曼哈顿(余弦)距离进行衡量:

KNN算法的流程为:1)计算测试数据与各个训练数据之间的距离;2)按照距离的递增关系进行排序;3)选取距离最小的K个点;4)确定前K个点所在类别的出现频率;5)返回前K个点中出现频率最高的类别作为测试数据的预测分类,简要概括为算距离、取近邻、做决策。[1]KNN算法运用于司法领域中主要是在类案识别推送软件,比如江苏、北京、上海等地法院的智能辅助办案系统中均嵌入了类案推送的模块。[2]及2018年1月5日,最高人民法院推出的“类案智能推送系统”也正式上线运行,具备类案快速查询和智能推送等功能。[3]

上述类案智能推送系统大体的运作路径包括三个阶段,第一阶段就是通过机器学习语言构建起案件的知识模型(图谱),第二步就是对只是模型进行自动化抽取,第三步就是KNN算法或其他算法实现对已被转化为计算机信息数据的各类司法文书分类,即计算的各个司法文书距离,来找到待分类文书的K个最相邻的文档,从而实现文书分类,上述例子可以明显的看出KNN算法的结果很大程度取决于K的选择,故在分类中会优化KNN算法中的参数K。

2.KNN算法的优、缺点。

KNN算法理论简单、易于理解,这是KNN算法的优势之一;对于数据集中重叠较多或者相似度过高的待分类样本来说,由于KNN算法通过计算出的K个占优数据更能提高准确率对相较于其他算法更为合适,这是KNN算法的优势之二。不足之处首先在于当样本极度不平衡时,如某个类别的样本数量过大导致分类时大数量的样本占对数,将影响分类精度,错误率就会显著提高;其次,该算法在分类时需要计算测试样本到每个训练样本的距离才能找到K个邻居,导致计算量很大;[4]再就是在大多数情况下并没有那么好的训练集,也就是在数据的可靠性上存在偏差。

二、司法裁判领域算法决策的应用及挑战

1.算法在司法人工智能领域的正向应用

KNN这一理论简单的算法在司法智能领域应用如此广泛,更不要说那些理论稍显复杂的其他比如朴素贝叶斯、C4.5、SVM等算法更多的应用。自美国律师界推出的人工智能律师“ROSS”,用于自动检索法律文档数据库,从而找出与用户提出的问题相匹配的答案,到我国国内首款法律机器人“法小淘”的正式亮相,通过输入的关键字来分析案由及提供的相应法院,从海量律师信息中推荐出3位符合条件的律师,并提供了3位律师各自的律师事务所、承办类案数量等各项基本信息;后来又陆续出现了“法小宝”、“法狗狗”等人工智能机器人。毋庸置疑,这些系统极大的提高了法律工作的效率,通过先进的语音识别系统,用机器学习的相关算法建立了一套文本与案例之间的初始相似模型。由于大量人工智能法律产品的出现,媒体将2017年称为“科技司法元年”。

法院系统内部运用更为成熟当属上海“206 工程”,即上海刑事案件智能辅助办案系统。这一系统旨在将专家经验、模型算法和海量数据相结合,把统一适用的证据标准嵌入数据化程序中。[5]该工程的应用得到肯定之后,又对其他司法领域运用进行了扩张,比如说民事审判领域,在不断优化提升的过程逐渐在司法人工智能领域得到了更广泛的应用。

2.算法的“威力”

但当央视《法治在线》栏目曝光一起发生在河北邯郸的特斯拉自动驾驶功能致人死亡的事件后,我们对算法的“威力”有了更深的认识。该事件讲述的是一名叫高巨斌之子驾驶特斯拉在高速公路行驶,前车躲避障碍物,躲闪不及撞上道路清扫车发生车祸,据交警部门调查在碰撞发生前,特斯拉车辆并没有进行任何躲避和减速,保持车速撞上前方正在施工作业的道路清扫车尾部,特斯拉公司一再主张“没有办法知道”发生事故时车辆是否启用了“自动驾驶”(Autopilot),但在大量证据面前被迫承认车辆在事故发生时处于自动驾驶状态,后来该公司将这一系统中文翻译由“自动驾驶”改为“自动辅助驾驶”,在这里我们姑且不论驾驶者在驾驶车辆中是否精力集中,但我们应该清楚的认识到算法带来的汽车驾驶自动化虽然是未来的发展趋势,但是自动辅助驾驶算法的安全性还是令人担忧。

3.审视:“算法权力”下的客体

不管是法律机器人还是所谓的带有自动辅助驾驶功能的汽车,都离不开算法对其作用的重要支撑。作为身处互联网时代的我们现在亦处于“算法统治的时代”,比如从运用算法实现记录我们活动轨迹、心跳、脉搏的智能手环,到风靡一时的智能扫地机器人等各种各样的人工智能产品,这些产品在提供给我们方便的同时,我们是否有一丝隐忧,在人工智能时代我们每个人的一举一动所留下的电子痕迹,通过各种算法变成可供处理、分析和利用的数据,算法掌控者们借助这些数据及越来越智能化的算法分析开发着为我们提供便利的人工智能产品,殊不知我们渐渐的成为数据,并最终成为被各种算法被定义的人。算法权力这种新型的权力并不把我们当成主体来对待,而是作为可计算、可预测、可控制的客体。[6]我们作为司法实践人员在应用这些智能辅助软件时是否了解过该算法的原理运作过程,对运用各种算法中存在的风险或者缺点对我们司法实践作出的可靠性有一定的怀疑。

三、透视:算法决策的隐蔽性对司法裁决造成的障碍

1.何为算法决策的隐蔽性

人工智能时代,我们将选择权和决策权直接让渡给算法,但是我们忽略了算法本身的性质,即技术是中立的,这点毫无异议,但是算法的本身并不是中立的。当我们用机器学习的方式将法律编写成算法的时候,需要对数据库中的数据进行转化,使其成为能够让算法可以进行识别并进行运算的符号,转化过程如何,效果如何呢,我们不禁自问:形式语言转化方法跟我们公开了吗?是否存在算法技术开发人员利用我们现今无法熟练掌握算法技术的劣势,肆意改变算法的编程或者留有一定的后门及漏洞,从而达到操控算法决策的判断结果?通过模拟训练形成的算法,都建立在对海量文书学习、训练的基础上,那如何保证训练的样本文书全都是绝对正确的呢?除却上述算法技术开发人员的有意为之,是否存在算法技术开发人员受制于自身的阅历、教育经历以及主、客观各项因素,并将这些因素自然的嵌入到算法决策的过程中,导致算法本身存在的偏见从而影响了决策的科学性以及客观性?上述疑问从而引出了算法决策的不公开性、算法的暗箱、算法的依赖性、算法偏见,这些都是广义算法的隐蔽性的范畴。

2.算法形成的“专家系统”与司法裁判之间形成的冲突

尽管司法人工智能在我们法院领域实现了多点开花的广泛应用,这当然与高层越来越重视法院信息化建设有关,但是应用效果如何呢,据观察及笔者自身体验相应的智能办案辅助系统,目前在司法领域领域应用的人工智能产品大多只是封闭的“专家系统”,而不是有自主学习能力的“人工智能”。[7]司法人工智能技术及产品在司法实践中的运用效果并不令人满意,比如法院系统应用比较广泛的类案智能推送系统存在明显的问题,首先,所推送的类案并不是法官所需的类案,内容也不够精准,其次,推送的类案的范围带有局限性,最后推送类案的时间不够广阔,只局限于某个阶段年限的,这就使得类案智能推送的应用效果大打折扣;再有上文提到的上海智能辅助办案系统也难称完美,该系统主要着眼于证据的合法性进行自动审查,侧重于形式审查方面,而在实质审查方面还有一些障碍。[8]还有就是各个法院现在应用的人工智能办案辅助系统至少要两三套以上,以笔者所在的XX基层法院,在法院内网中安装的办案辅助软件就有智审2.0、一体化工作平台、电子卷宗随案生成系统,但在使用过程中我们发现各个系统之间的数据并不共享,这样的话给我们增加相应工作量的同时,由于各个系统中运用的算法原理及运行过程不尽相同,导致同一案件形成的辅助参考结果可能也就不尽相同,对讲求的公开、公平的司法裁决产生冲突。

 同样,最高人民法院最近几年先后建成的司法公开平台以及建设的一站式多元解纷机制一站式诉讼服务中心网站、在线调解平台,尤其是中国裁判文书公开系统,现已经成为全球最大的裁判文书网。运用新时代新技术的思维模式,借助现代信息科技手段,加快建设智慧法院,同时提供各种技术手段使公民利用各种信息渠道及时实现对司法过程的监督,从而保障公民的知情权、监督权,有效回应新时代公民对司法公开的新需求,更是智慧法院建设的终极目标,但是人工智能占据核心地位的算法自身存在的隐蔽性与司法裁判要求的全过程的公开性势必形成冲突,影响公开性的效果,进而阻碍了人民法院新时期的建设。

(1)算法的不公开性与司法裁判公开性的理念冲突

算法具有高度技术性,算法技术虽然是中立且高效的,但是其运行程序和原理,只有算法技术开发人员能够获取,竞争性商业机密也往往成为算法决策不对外公开的主要挡箭牌;除了它的保密性外,更重要的是即使公开了司法裁判人员限于专业知识所限也看不懂。司法裁判与算法运用必须要有一个逻辑架构的桥梁,这个媒介沟通桥梁就是公开透明。司法裁判的过程与算法决策的过程既是一体化作战的模式,又是相互监督配合的模式,只讲求司法裁判的公开透明,而忽略了对算法决策的公开性的要求,司法裁判的过程必然会单兵作战,不能很好的运用法院信息化建设带来的应有效果,在对算法决策缺少一定的监督的情况下,势必对司法裁判的公开性造成一定的冲击。

(2)“算法黑箱”对司法裁判公开的成果冲突

司法实践中,司法机关将核心算法的编辑任务大量外包,而算法是决定系统运算结果的关键所在,不同的算法生成的结果大相径庭。在这些场景中,算法往往是无形的,人们无法判断损害是否由它造成,更不清楚算法本身是如何编写的。算法往往属于企业的“商业秘密”,是受法律保护的名正言顺的“黑箱”。[9]算法开发技术企业总是倾向于更有利于自身利益的算法,更好地控制智能系统。近年来,各类挖掘主体与校准结果持有者肆意垄断数据仓库与分析技术,通过篡改测评数据、运算法则或结论以干预第三方决策的事件时有发生。[10]最高院联合中国电子科技集团公司等科技企业主导设立的天平司法大数据,虽然主导权掌握在法院手中,降低了算法开发技术企业干预或者影响司法决策的机率,但是由于开发的主体不尽一致,影响的可能性依然存在。由于司法机关本身不擅长人工智能核心算法的编辑,也就无法从技术层面上对算法技术开发人员的编辑工作进行有效监督。这就给核心算法的暗箱操作留下了空间。法院努力建立起来的司法公开大厦也会因算法黑箱造成的司法不公正问题而轰然倒塌。

(3)算法的依赖性不符合司法裁判公开的内在要求

对人工智能进行模型训练是算法进入应用的必备程序,也是最为关键的一步,也是体现各个算法开发技术企业核心竞争力的标志。但是,算法技术开发人员在现有技术条件下无法保证训练的样本文书全都是绝对正确的。如果文书本身就是错误或者存在瑕疵,基于这些文书训练产生的模型与算法就可能遭遇精确性困境。进而,再遵循这些算法对法官办案进行辅助,可能的结果就是历史的经验错误被不断放大并形成、固化错误的“路径依赖”。[11]

而司法裁判的解决纠纷的方式与运用行政手段解决纠纷的方式自然不同,它是运用国家权力赋予的司法权从而解决纠纷和宣传法律意识的的特殊场所,从而决定了司法裁判的独立性、决断性的固有属性,司法裁判的所有这些属性都决定司法裁判必须是向全社会公开透明的权力,其运行方式必然是公开的场景下运行,如前所述,其最初作用是做到案结事了、定纷止争,终极目标而是向社会中所有人宣传法律意识、传播社会正能量,南京彭宇案的深刻教训不得不让我们作出深刻的反思,除了公开,司法裁判就没有其他方式能确保自身的性质和维护其运行规律,故于当事人司法裁判中是公开的竞技场,如司法机关运用了错误或者存在瑕疵文书训练产生的模型与算法,运用到司法裁判过程中并将其公之于众,人民群众就有理由质疑司法裁判的公正性和判决的合法性,违背了司法裁判的公开性的内在要求。

(4)算法偏见与司法裁判公开价值追求相悖

从算法的不公开性容易演变成算法“黑箱”问题,进而借助算法的依赖性,造成了算法偏见(算法歧视)。而广袤大众笃信司法是维护公平正义的最后一道屏障,是维护自身权益的最坚硬的一处舞台,但是如果司法裁判的舞台中裁判者运用的带有司法偏见的算法进行司法裁判必然会损害司法的权威,丧失人们对法律的信仰。算法偏见的形成因素多种,首先在于有算法开发技术企业与法院主体开发人工智能软件的角度不同,或者说两者之间形成的实质需求存在一定的偏差,法院作为人工智能的用户只是简单地向算法开发技术企业提出类似“公正、高效、服务”这样宏观抽象的需求,对其实质性需求二者的沟通一旦出现问题,算法决策的结果便会存在偏差,最终会影响司法的公信力以及法院的形象;其次,法律工具主义思维盛行为司法偏见的形成埋下了隐患。工具主义是指将各种科技成果视为解决人类问题、增强人类能力的工具,其在法律领域是实用主义法律观的体现[12]。人工智能产品输出的结果之所以往往为法官和公众产生怀疑,是因为工具主义盛行下的只讲方法不讲目的从而割裂了法律和技术的关系,导致输出结果无法与司法需求相匹配。

例如在美国的刑事司法系统中运用较多的风险评估算法,该算法有助于法官预测审前保释人员的行为,帮助法官就被告是否能被保释、保释条件是高额保证金还是人身担保等问题作出决定,实践中也证明该算法确实减少了在监狱中待审人员的数量,并缩短了监禁时间,由此降低了各项系统成本,但该算法在设计中直接建构了系统性偏见,其用基于定量数据的歧视取代了法官的隐形歧视。[13]因此必须承认算法与法官的独立裁量权运行机制不同,加之算法隐蔽性,许多的风险评估算法是享有知识产权的,各项数据及算法不会公之于众,仅会专注于优化自己的算法,造成算法的系统性偏见不可避免。但公众包括法官并不知晓嵌入到自主决策系统中转化的机器算法语言,从而导致无法矫正的算法歧视。

四、算法决策隐蔽性与司法裁判公开性融合路径分析

1.域外对算法决策隐蔽性进行规制的经验

美国:通过制定发布加强行业自律制定算法基本原则规定,阐述了关于人工智能算法透明化和可责性七条原则,尤其在算法的透明化和倒查机制方面予以确立。

英国:发布《机器人与人工智能》,特别强调决策系统透明化对于人工智能安全和管控的作用。提出应当在机器人及机器人技术的伦理与法律监管中确立可追溯性,保证机器人的行为及决策全程处于监管之下。[14]

法国:法国政府刚颁布的《司法改革法》,可以说直接将司法人工智能算法发展扼杀在摇篮中,颁布的诸多举措中争议最大的就是禁止对法官行为进行统计分析,其中第33条规定:不得为了评价、分析、比较或者预测法官和司法行政人员的职业行为而重复使用其身份数据,这一规定适用于任何个人、研究人员和科技公司。颁布该条规定的原因在于司法裁判者通过公布其个人信息及裁决的相关信息,然后被算法技术开发人员进行获取、分类并模拟法官裁判的模式,最后创建关于他们处理其他法律问题的特定处理模式,但是最后算法技术开发人员与通行的民事案件处理规范差距很大,对法官处理接下来的案件造成了障碍,故法国政府用一刀切的方式对算法统计进行扼杀。当然新生事物的发展不是一蹴而就的,不能因为存在某些问题而逃避解决进而对蓬勃发展的算法开发技术企业进行封杀,这也是算法决策隐蔽性与司法裁判公开性融合路径应该竭力避免的。

2.我国的智慧法院建设中算法决策与司法裁判的融合路径

(1)宏观的融合方向路径

智慧法院无论如何建设都是为司法裁判的提供方便和服务的,在智慧法院的建设过程中要充分考虑到司法裁判的固有属性,要在尊重其属性的前提下,将法院工作的法律逻辑和社会知识逻辑转化为数字化的算法,这是我们用算法决策为司法裁判进行服务的根本遵循。构建以法官为中心,人机合一的工作模式,人必须是算法的立法者和控制者。[15]在强化司法裁判人员的主体地位前提下,对司法裁判人员作出必要的技术和制度安排,从而防范算法决策的隐蔽性对其形成的“路径依赖”。

(2)算法决策者承担披露公开义务是规制算法决策隐蔽性的最直接有效的方式。这样不仅可以平衡算法开发技术企业与法院之间的信息不对称, 并且相比于对算法决策的结果进行控制而言更加有效。比如魏则西事件的联合调组要求百度修改排名算法, 以信誉度为主要权重, 并逐条醒目标识商业推广信息,进行风险提示, 就是直接干预算法设计。[16]具体公开路径应包括两方面,第一算法开发技术企业应当依据外包合同的约定向司法裁判机关就运用到司法人工智能产品中的算法的运行原理履行详细说明义务;第二司法裁判机关应当依据《关于司法公开的六项规定》等关于司法公开的相关文件规定要求将除涉密外的算法内容以大众可理解的方式进行公开以便接受群众监督。

(3)注重培养复合型的人才,既懂司法程序又懂算法运算,为算法在司法人工智能中运用提供智力支撑。正如李彦宏等人在《智能革命》中所指出的那样:“……也许真要靠算法的顶层设计来防止消极后果。人工智能技术可能不只是理工科专业人士的领域,法律人士以及其他治理者也需要学习人工智能知识,这对法律人士和其他治理者提出了技术要求。法治管理需要嵌入生产环节,比如对算法处理的数据或生产性资源进行管理,防止造成消极后果。” 国内的一些政法院校已经深刻认识这点的重要性,比如西南政法大学、北京大学先后成立了人工智能法学院,通过与相关技术企业以及与司法裁判部门合作,联合培养复合型法治人才,为人工智能时代背景下的法治建设服务。[17]再比如另一高校的做法更值得推广,山东大学(威海)法学院设立的计算法学特色班,注重人才培育目标的定位与路径创新,致力于本科专业的交叉融合与升级改造,着力培养拥有法学专业基础并具有机器算法应用能力的文理交叉复合型人才。

(4)构建符合司法规律的法律知识图谱从而提高算法训练数据的质量。开始运用算法决策之时是因其准确和效率,不对客观事实进行价值判断,但实践证明算法也存在偏见和歧视,而产生的最大根源亦是在数据方面,因为如果使用了本身带有偏见的数据,再先进的算法也无济于事。提高路径应包括两方面,第一为预防抽取本身带有偏见的数据,首先应采用尽可能最大范围内的数据,避免因数据样本范围问题造成偏差;第二确定采用的训练数据后,有必要运用深度学习方法对即将采用的算法数据显示的价值观念与我国法律价值要求是否存在冲突加以审查,并对不符合法律价值要求的数据进行更正或剔除。

(5)构建“人工纠错”程序为算法决策与司法裁判的融合提供制度保障。信息披露并不是万灵药,可以考虑设立算法审查专门机构,[18]机构人员包括司法裁判机关人员、算法开发技术企业、法律专家等不同利益相关方。专门机构应对算法运用的全过程进行监管,包括除了应向司法裁判机关进行算法信息披露,还应向专门机构进行通报备案;对即将投入使用的司法人工智能产品进行审查检验,使其符合司法裁判规律;对已投入运行使用的司法人工智能产品进行运行效果评估,以便及时发现在后续的使用过程中违反裁判规律,影响司法裁判公开的算法运算规程;最后亦应建立一定的责任倒查机制,对肆意垄断数据仓库与分析技术,通过篡改测评数据、运算法则或结论以干预第三方决策的人员承担一定的法律责任。

五、结语:算法未来已来,需更加理性、务实地期待

法院的智慧依靠法官,而智慧的法院则需要技术,皋陶用獬豸决狱实现天下太平,成就中国司法鼻祖威名,包拯借天眼进行断案平冤,成就一代青天大老爷,借力实现正义是从古至今人类一直都有的朴素思想;在智慧法院的建设中,我们必须强调以人为本,谨慎算法决策对司法属性的异化,谨防陷入算法决策陷阱的泥淖,深入认识人工智能的算法决策与司法裁判之间的关系,尤其是理解算法决策中隐蔽性对司法裁判公开性所造成的影响,并逐一对算法隐蔽性中隐含的各种弊端加以规制,努力克服算法决策对司法裁判的负面影响,发挥算法决策在司法人工智能领域的各项功效,融合过程中可倒逼司法裁判者更加规范运用法律知识,打牢算法决策的基础。从而进一步有效开发法官办案智能辅助、裁判文书智能分析、法律文书自动生成及纠错系统、案件类型特点及成因自动分析等法律人工智能产品,以实际行动构建人工智能助力审判现代化。



[1]肖云鹏、卢星宇、许明、汪浩瀚、吴斌、刘宴兵:《机器学习经典算法实践》,清华大学出版社2018年版,第2页。

[2]参见《江苏“智慧法院”信息化建设升级为司法能力现代化注入新动力》,载《法制日报》2017年3月20日 ;《北京“睿法官”推进同案同判》,载《北京晨报》2017 2 24 日;《上海应用“人工智能”办案防范冤假错案全国首个“智能辅助办案系统”问世》,载《法制日报》2017 7 11 日。

[3]参见《周强在“智慧法院导航系统”“类案智能推送系统”上线活动上强调加快推进新时代智慧法院建设》,载《法制日报》2018 1 5

[4]肖云鹏、卢星宇、许明、汪浩瀚、吴斌、刘宴兵:《机器学习经典算法实践》,清华大学出版社2018年版,第11页

[5]严剑漪:《揭秘“206 工程”: 法院未来的人工智能图景》,载于《上海人大月刊》2017( 8) ,第 40 41页.

[6]郑戈:《算法的法律与法律的算法》,载《中国法律评论》2018年第2期总第20期,第68页

[7]郑戈:《算法的法律与法律的算法》,载《中国法律评论》2018年第2期总第20期,第81页

[8] 刘品新:《大数据司法的学术观察》,《人民检察》2017年第23期。

[9]郑戈:《算法的法律与法律的算法》,载《中国法律评论》2018年第2期总第20期,第74页

[10] 蒋洁:《大数据继承的权益危机与价值回归》,《科技管理研究》2016年第二版,第199页-202页

[11]王禄生:《司法大数据与人工智能开发的技术障碍》,载《中国法律评论》2018年第2期总第20期,第52页

[12]李婕:《算法规制如何实现法治公正》,检察日报2018-7-10,第3版。

[13] 洪嘉君:《美国刑事诉讼“算法预测”的风险与回报》,《中国审判新闻半月刊》2019年第07期,总第221期,第68页。

[14]李婕:《算法规制如何实现法治公正》,检察日报2018-7-10,第3版。

[15]郑戈:《算法的法律与法律的算法》,载《中国法律评论》2018年第2期总第20期,第85页

[16]邱遥堃:《法院如何规制算法---从快播案切入》,载于《法律与社会科学》(2017)第16卷第1辑,第65页。

[17] 程凡卿:《我国司法人工智能建设的问题与应对》,《东方法学》2018年第3期,第128页

[18]周游:《我国亟待建立人工智能算法审查机制》,载《中国计算机报》第012版,第2页。

关闭