阅读次数:人次

算法决策司法风险及防范

摘要:随着算法和算力的突破式发展,人工智能技术几乎渗入到各个领域内,司法领域也不例外。“人工智能+法学”作为国家人工智能发展的新规划,为我国法律行业的发展带来了机遇;也为人工智能算法决策在司法裁判的应用过程中带来了挑战。文章在对算法决策在司法领域中的风险进行分析,并提出了一些建议,以期对算法决策在司法领域更好地融合。

关键词:人工智能;算法决策;司法领域

国家在《新一代人工智能发展规划》中对人工智能在法律领域的应用做了前瞻性的布局设想,其中“人工智能+法学”的教育培养新模式,①为人工智能在法律各行业的应用充分展开,储备了基础。在美国,人工智能在司法领域的应用已久;尤其是在刑事诉讼程序,算法决策在法官的审理、量刑、假释等一系列辅助过程中,起着重要作用,主要是在预测是否再次犯罪的评估上;同时,这一点也带来了广泛的讨论。②究其原因,算法作为一种技术,被当作是公平、中立的应用在司法领域;算法决策在因主观任性和客观局限而导致的问题上,往往比人类表现的更具客观和公正;但是,算法技术在决策时就一定是公正的吗?答案是否定的。一方面,算法在人工智能中是以代码的形式,安排着机器在运算、处理问题时的顺序和步骤,在决策中具有大脑般的作用,体现着算法设计者的目的和思想,所以它本质上也不可能是完全客观、中立。另一方面,算法在汇编结束到完成仍需要不断地进行数据训练,以保证算法的不断完善;但若是采集的数据不具备客观性的话,人工智能在应用中就不免会出现偏差,产生偏见。

一、算法决策对司法的风险

在人工智能算法深度学习中,算法在决策过程中会产生“算法黑箱”这一特点,即使是算法设计者本人也不知道这一决策时如何产生的,想要找出问题根源亦是很难,那么这一特点就会出现这样一种情况,出现问题后,应当如何归责,技术上的难题直接导致法律责任无法归咎的风险。算法决策的偏见会削弱司法人员的主体地位。现在,各类司法辅助办案系统被普遍采纳应用,这一系统辅助过程会涉及到:自动对证据材料进行审核,类案的推送,量刑的数据参考等,人工智能逐步渗透到司法过程的各阶段;在高智能辅助系统中,辅助系统会自动根据案件的犯罪事实、相关法条、量刑情节、量刑幅度生成可供司法人员参考的文本,因为未参与案件的整个过程,只是对案件事实等进行数据化的选择、归类;该系统不会对本案件进行深刻而全面的了解;司法不是简单地对三段论的论断,亦不是机器对法律各要件的匹配,而是需要对人和社会生活情况的深刻理解;算法在运行中会进行比较,采用相似性做决策,具有差异性的就会被排除,往往看似不重要的细枝末节,却具有着关键性的作用,如若在司法过程中偏倚算法决策得出的参考文本,也就干扰了司法人员的独立判断,影响司法人员的主体地位。

二、算法决策风险之防范进路

无论从目的还是功能上来看,司法智能辅助系统都是对司法人员独立判断的辅助;智能辅助系统虽然在解决案多人少、司法腐败等问题上成效明显,但是司法人员作为司法责任主体,应当注意防止过度依赖辅助办案,在结案陈词、文书说理部分应该详细表达决策过程,这样既可以保证过程的公开透明,又可以防止出现流水线作业式的裁判文书。“算法黑箱”的存在,增加了算法决策的不透明性,带来了治理上的难度。借鉴国外的经验是:具有黑箱性质的算法系统不能被用到公共福利、公共教育、公共医疗等一系列核心公共机构领域中来;对能够被应用的司法智能系统,对其算法的设计和监管,要有法学各攸关方参与进来;对除涉密外的算法,向公众公开,方便接受公众的监督。③在算法数据训练可能受到“污染”的风险时,通过先对采用数据进行筛查,以确保算法训练所需要数据的质量。由于,数据训练算法时,数据样本越全面,数量越多,算法的结果精确度就越高;在众多的样本数据中,通常会混入社会中既有的一些歧视;因此,在采用数据之前,应当对数据做符合法律和道德伦理的价值检测,对可能影响算法的歧视数据进行校正。

三、余论

正如,苹果公司的CEO蒂姆•库克在麻省理工学院2017届毕业典礼演讲中指出,“我并不担心人工智能像人一样思考,我更关心的是人们像计算机一样思考,没有价值观,没有同情心,没有对结果的敬畏之心,这就是为什么我们需要像你们这样的毕业生,来帮助我们控制技术”。④我们不知道以后的人工智能是否会像人类那样有同情心和敬畏之心,但可以肯定地说,在人工智能时代,无论发展至如何,我们需要的是像人一样具备同情心和敬畏之心的“算法决策”。

作者:张帆 单位:广州大学法学院

关于本站:中国最大的权威的公务员门户网站-公务员之家创建历经7年多的发展与广大会员的积极参与,现已成为全国会员最多(95.4万名会员)、文章最多、口碑最好的公务员日常网站。荣膺搜狐、新浪等门户网站与权威媒体推荐,荣登最具商业价值网站排行榜第六位,深受广大会员好评。

公务员之家VIP会员俱乐部

在公务员之家您可以分享到最新,最具有时事和代表性的各类文章,帮助你更加方便的学习和了解公文写作技巧,我们愿与您一同锐意进取,不懈的追求卓越。

如何加入公务员之家VIP会员
第一步:先了解公务员之家,查看VIP会员特权
第二步:银行汇款或在线支付,汇款即时到帐
第三步:汇款后立刻联系我们,将您的汇款金额和流水号告诉客服老师,3分钟内系统核查完毕并发送VIP会员帐号到您的手机中,直接登陆即可。

版权所有:幸运农场追号