一、智慧设计运动与中国司法改革的新动向
2000年9月17日，巴西的艺术家埃杜阿尔多·卡茨(Eduardo Kac)在法国基因工程技术者的帮助下创造出绿色荧光兔Alba的消息瞬间传遍世界。这只奇特的转基因生物，标志持续了四十亿年的自然选择和进化体制被突破，从此人类对生命也可以进行理性设计，社会结构势必随之激变 。简而言之就是一句话，在包括生物工程、机器人工程以及非有机生命工程在内的“智慧设计”运动中，人类俨然开始扮演起上帝的角色。
若干年后接二连三传来了另一串激动人心的消息。2015年12月11日，三位研究者宣布他们共同开发的AI系统具有人类认知的弹性，通过概率程序能够区别字符的本质特征和非本质特征，并能从少量案例提炼出新概念 。2016年3月15日，计算机智能网络程序“阿法狗(AlphaGo)”以4:1的战绩击败围棋世界冠军李世石，引起全球轰动。2017年10月19日，各大媒体又报道了美国谷歌伞下子公司开发的“阿法元(AlphaGo Zero)”程序能够无师自通、凭借自学和创造力就可以掌握人类未知的围棋下法。这几个事实相继发生，意味着人工智能反过来超越人类智能扮演上帝角色的奇点正在迫近。
从阿尔巴到阿法狗，再到阿法元，只有十七年。加上1990年代高歌猛进的数码化、互联网化的社会结构转型，也只有不到三十年。就在这段时期里，中国司法系统获得了某种后发优势，借助信息技术、互联网、大数据、云计算以及人工智能提高办案效率和透明度，使审理流程发生了广泛而深刻的质变和突变。其结果，不得不承认，裁定的主体、标准以及程序都呈现出前所未有的景象：法院俨然判决工厂、法官仿佛在流水作业线上进行操作的技工、审级的意义在削弱、公检法司不同角色的协同性和统一性在加强。所有这些动向，都对现代法治的制度安排提出了严峻的挑战，都很值得我们认真考察、分析以及思索。本文试图在惊呼“机器人法官来了”的社会热潮中进行一点冷思考，追溯司法体制改革的初心和真谛。
二、人工智能与法律数据库的进程
回顾关于人工智能、大数据与法(特别是审判系统)的研究历史可以知道，西德司法部早在1960年代末就成立了一个专门研究计算机在法律实务中的作用以及运行机制的设计组，并在1973年构建出被称作JURIS的数据库和社会法检索装置 。在美国，布鲁斯?布坎南和托马斯?希德里克于1970年11月发表《关于人工智能和法律推理若干问题的考察》一文 ，拉开了研究如何对办案活动中的法律推理进行计算机信息系统处理的序幕 。不久由沃尔特?珀普、本哈德?施林克开发出了JUDITH律师推理系统，旨在提高法律服务的质量和效率 。鲁特哥兹大学到1977年已经开发成功世界上第一个计算机法律专家系统――根据LISP程序语言记述的处理公司并购税务问题的TAXMAN，有利于精准和迅速处理大量的事务性工作 。就在当年，旧苏联科学院法学研究所也启动了自动化管理以及相关法律问题的研究项目 ——从社会主义经济体制的角度来看，通过人工智能增强计划理性和对规范实施效果进行监控的精准度似乎是题中应有之义 。几年后，兰德公司民事司法中心的研究人员D.A.沃特曼和M.皮特森开发出了审判辅助系统(Legal Decision-making System，简称LDS) ，英国伦敦大学的帝国学院借助PROLOG程序语言的推理功能实现了国籍法实务的人机对话 。大约与此同时，日本的电子技术综合研究所(现为独立行政法人“产业技术综合研究所”)也以KRP程序语言编制出包括实体法和诉讼法两种规则及其相互关系在内的专利法检索咨询软件 。2001年，美国联邦最高法院正式启用案件管理和电子档案系统(CM/ECF) ，据权威报告提供的统计数据，截至2014年末这个系统共囊括超过十亿份可检索诉讼文档，涵盖13个联邦上诉法院、94个联邦地区法院、90个联邦破产法院以及若干联邦专门法院，形成了一个庞大的司法数据库 。
在中国，运用计算机系统建立法律数据库、辅助审判业务的代表性构想，不妨追溯到龚祥瑞和李克强在《法学杂志》1983年第3期发表那篇论文“法律工作的计算机化”。而最早的相关实践，或许是我亲眼所见北京大学法律系留美回国青年教师张力行和几位研究生在极其简陋的条件下于1985年着手创建涉外法规查询系统的场景。这个查询系统的进化版本就是后来闻名遐迩的中国法律信息检索系统“北大法宝”，记得早期它的标语是“e法律，0距离” 。1986年，上海法学研究者朱华荣、肖开权主持的“量刑综合平衡与电脑辅助量刑专家系统”课题获批国家社科“七五”研究项目。到1993年，武汉大学法学院赵廷光教授领衔开发了实用刑法专家系统，由咨询检索系统、辅助定性系统、辅助量刑系统三个部分组成，兼有检索法律规范信息和对个案进行推理判断的功能，曾经被一百多家法院、检察院、律师事务所采用 。众所周知，进入1990年代后，数码信息技术的发达造成了全球互联互通的“网络空间(Cyberspace)”、规模庞大的“网民(Netizen)”和“电子群众(the e-People)”，也使得“信息高速公路”上的国际犯罪日益活跃、黑客式无政府主义现象不断蔓延 。到1999年左右，中国公安部专门设立计算机管理监察处，并配置了在电子空间巡逻的大量“网警(cybercops)” ，利用信息检索系统侦查犯罪行为和收集证据的“电子侦探(e-Detective)”也颇见成效 。“网络社会”和“网络法”的概念也进入大众传媒的视野。
三、司法运营电脑化的技术革新
互联网和数码信息技术也为中国审判方式创新和司法体制改革提供了重要的杠杆和机遇。一般而言，传统式样法院的基础设施建设是耗时费力的，需要购置和安放卷轶浩繁的法律法规、判例以及诉讼卷宗，需要相应地扩大办公面积和人员编制，但计算机系统和多媒体可以帮助原先条件比较落后的中国司法机构实现跨越式发展。司法运营电脑化(virtualising administration of justice)还可以或多或少在不同相当程度上解决适格法官人数不足、司法经费匮乏、法律适用统一化程度较低、司法腐败蔓延等具体问题。在我看来，正是基于这些考虑，1999年10月20日最高人民法院颁布的《人民法院五年改革纲要》才把采用信息技术、树立在线审判体制作为司法改革的重要内容 。
第一个改革五年纲要是从“加强法院办公现代化建设，进一步提高司法效率和法院管理水平”角度来理解信息技术的意义，强调要“审判法庭要配备安全检查、法庭文字录入、录音、录像、投影、闭路电视监控系统等相应的技术设备”，要求各级法院在“2001年底前，基本实现计算机等现代化技术手段在庭审记录、诉讼文书制作、法院人事管理、档案管理、统计数据信息处理等方面的应用。加快计算机信息网络和通信，建设，统一网络应用软件。用3年时间实现最高人民法院与高、中级人民法院之间的计算机联网，力争5年内建立全国法院计算机网络系统，将案件的管理、信息和统计数据收集、传输等纳入网络系统，提高人民法院各项管理工作的科技含量”。还规定“2000年底前，最高人民法院完成对各类案件的司法统计指标体系的改革工作。进一步探索建立符合人民法院审判工作管理需要的，具有快速反应和宏观分析能力的现代司法统计工作和管理体系。” 。2002年，最高人民法院制订了《人民法院计算机信息网络系统建设管理规定》和《人民法院计算机信息网络系统建设规划》，召开了全国法院信息化建设工作会议，启动了“国家司法审判信息系统工程”。这些改革举措为大数据、云计算、互联网、信息技术、人工智能在审判过程中的大规模运用奠定了基础。
在这里可以看到，中国法院改革纲要期待多媒体和数码信息技术主要发挥以下三种功能：(1)作为“审理活动的工具”，帮助法官和律师获得诉讼资料、记录勘验和询问结果、开示证据等;(2)作为“法院管理的装置”，保存和移送审判数据、及时掌握庭审实况、通过录音录像制作法院文书等，(3)作为“实况观测的窗口”，使得办案过程实现可视化、对庭审进行现场转播、舆论监督。为了确保这些功能充分发挥，各地各级法院都制定了有关规章制度。例如北京市海淀区人民法院的《计算机网络管理规则》(1998年4月实施)规定，各法庭必须与审理同步进行各种记录和案件数统计，输入的审判数据由院级技术室计算机组统一管理并进行信息质量的季度普查和随时抽查;为此还对法官、书记员以及行政人员进行信息处理技能测试，对过失行为设置了罚则 。另外，计算机法律专家系统和司法行政支持系统的研究开发也正式提上议事日程 。到2003年，“中国审判法律应用支持系统”在全国推广使用。2004年最高人民法院设置了第一个电子化、智能化法庭。不难想象，从1990年代末开始，法国社会思想家米歇尔?福柯(Michel Foucault)曾经深入分析过的那种合理的、精密的权力关系以及微观层面的规制化、组织化、效率化、机械化的风景，究竟是如何以计算机系统和数码信息技术为杠杆在中国的各级法院渐次展开，终于蔚为大观。
四、围绕电脑量刑的试验与争论
这种司法人工智能化趋势的最激进表现，就是山东省在2006年高调推广淄川区法院三年前开发刑事审判专家软件的经验、在当地各级法院中普遍实行电脑量刑，曾经成为国际社会的一则轰动性新闻。海外法律界人士以及公众传媒当时的主要反应是：既对中国法院在审判人工智能方面极其大胆的创新举措感到惊奇不已，同时也对用鼠标点击出来的自动化判决抱有相当程度的忧惧，因为刑事诉讼事关人命、自由、国家目标以及社会正义，与民商法相比较更需要保留基于人格修养的心证以及感化的余地，更需要加强对具体事实关系和语境的全面理解和细致入微的洞察，也更难于进行机械化的数码技术处理。
站在中国法律传统文化的视点来看，可以发现律令制的根本特征在于重案的绝对法定刑主义以及尽量压缩审判者裁量余地的机械化、细则化的条文构成。我在1993年发表长篇论文《法律程序的意义》时就已经指出了这一点，并陈述了如下批评性意见：“各代刑律的定刑方式皆如出一辙，几乎排除了量刑的余地。可惜当时尚未发明电子计算机，否则自动量刑的专家系统软件或许早已被列祖列宗设计出来了。……为了防止和限制恣意，我国采取了比西方更严厉的措施。其动机或可理解，但其效果却很糟糕。因为我国在缩减恣意的同时也压抑了选择，而选择恰恰是[法律]程序的价值所在” 。没想到距此十年之后，甚至更早些时候就已经有人利用数码信息技术时代的发达工具和条件来填补那个古昔的遗憾――编制了自动量刑的软件，并在要件和效果之间与时俱进地补充了一些选择对象。由此可见，在中国电脑量刑之所以很容易被接受，并且迅速得到普及，其实是以固有的思维方式为前提条件和催化剂的，倒也不足为奇。
另外还有大家都已经注意到的直接原因，这就是司法活动中存在的办案质量很参差、审理主体滥用裁量权、司法腐败、冤假错案层出不穷、甚至出现一案两结论的“阴阳判” 等严重问题，极大地动摇了对人脑判断的信心，同时也就顺利成章地助长了对电脑量刑的客观性、中立性以及确定性的期待。于是法官和当事人都试图用科学技术之光来照亮那个容许自由裁量以及非正式操作的暗箱，借助计算机来保证审判的公正、效率以及精密。实际上，从淄川区法院编撰的《常用百种罪名量刑规范化实施细则》的内容介绍里，我们可以发现孟德斯鸠式的类似自动售货机的法官标准像与根据条文规定自动得出刑期的传统思维方式之间的互乘效应。在这里，也不妨归纳出一条关于判决严格对应于法律、同案同判的司法镜像原则。如果再深想一层，在这里还表现出对审判本质的理解方面的变化――有关机构正在试图用专业性共同语言(按照法律要件整理事实并进行严格论证)来取代日常性共同语言，尽量排除情绪化因子和暧昧涵意对推理的影响。实际上，山东法院推广电脑量刑的确产生了借助计算机语言形式来使法律语言更加规范化的意图和客观效果。例如淄川区法院院长王建东说过，当地农村、山区地带法官业务素质普遍较低，自由裁量权往往被滥用，在这样的条件下应用量刑软件来办案，“实质上还是用制度约束人” ，使审判更加符合统一的专业化标准。在这样的意义上，有关努力当然是值得给予充分的评价的。
尽管如此，我们还是不得不指出：在现阶段对法律专家系统软件的设计和运用应该持一种慎之又慎的态度，尤其是在电脑量刑方面更不可急于求成，也没有必要完全排除法官的心证和裁量。要问理由何在，答曰：首先，任何法律专家系统软件都意味着作出一种纯粹的法律实证主义预设。计算机可以处理法律条文内容中的三段论推理以及关于“要件-效果”的条件式推理，也可以处理案例特征与数据库检索到的基础案例特征之间的类似性并进行倾向性推理和判断 ，但却无法适当表现那些决定有效规范在适用上的优劣顺序的元规则。也就是说，电脑量刑固然能在很大程度上排除在行使自由裁量权方面的主观任意性，但同时也会排除诸如自然法、权利保障、天理人情、有教少诛重预防之类的思辨性要素，还倾向于排除利益考量等政策性调整机制。其次，电脑量刑所体现的规范化，势必忽视地方性知识、上下文脉络以及具体情境，而这些字里行间的“意义之网”对于法律判断是非常重要的。在一定程度上不妨认为，不可言说的默示知识就标示出了计算机法律专家系统软件以及人工智能审判的疆界或者局限之所在。
再者，中国成文法历来都以简约相标榜，不乏多种解释的空间;各个概念的内涵和外延也尚未完全统一。例如仅义务条款，就有“应该”和“必须”等不同表述。具有中国特色的公平责任原则以及屡见不鲜的“合理的”、“可预期的”等术语，在法律推理中发挥着极其重要的作用，但有关事项在法律条文中并没有给出、实际上也不可能给出明确的定义。作为法律细则化结果的行政规范和地方规范极其庞杂，不同层面和部门的规定之间往往发生矛盾，使得整合化作业异常困难。凡此种种实像，都是不太适宜于电子计算机处理的。反过来，假如在这样的状态下就通过机器把法庭内外的对话和沟通加以格式化、固定化，很可能会阻碍法律解释学、推理技术、专业化教育以及审判者伦理人格的发展和提高，使司法流于一种检索和推测的简单智力游戏。假如这样的初级系统软件只被当作审判的辅助性工具，只在有限的范围内用于减轻检索负担以及避免疏漏，那不仅无可非议，还应大力支持。但一旦真要让法官们据此形成判决，甚至自动生成判决，就难免会遗患无穷。
还有必要指出的是，目前中国关于法律知识的数据库依然非常不完备 。类似电脑量刑那样的软件，其核心是法律推理系统，而关于法律推理的研究成果的积累在中国还极其薄弱。在这样的状况下，假如采取的只是把有关条文形式化、再追加若干解释规则的朴素方式，那么作为逻辑程序而执行时就很容易出现知识本身不循环、只是逻辑程序空转之类的问题，也很难对否定性表现进行适当处理。假如语汇储量不够，法律知识的数据库与推理引擎相结合就很容易频繁发生没有意义的检索。假如存在复数的法律知识数据库，如何使它们互相联系兼容并对它们进行排除矛盾和冲突的整合以及有效的一贯化控制，也是颇棘手的重要课题，需要消耗大量的时间和精力才有望获得进展。何况法律在不断修改，知识数据库的更新以及解释规则的调整也需要不断进行，在网络结构中只要某一事项的重新定义出现过失，就有可能成倍放大误差、引起自动化处理的结果异常――这也将导致建构和维持电子计算机法律专家系统的成本居高不下。
有人试图把美国的《联邦量刑指南》作为机械化审判的辩护理由，这是错误的。《联邦量刑指南》的性质更接近一种关于如何行使裁量权的权威性技术手册，一方面把法院内部过去存在的关于制裁幅度的非正式“行情”以及暧昧的判断指标在可能的范围内作出明文规定，另一方面还为司法的精密化和弹性化设立了很多政策性调整的尺度(例如优先救济被害人的原则，对企业犯罪进行制裁的加重或减轻的各种要件) 。特别值得重视的是这个司法技术操作规则具有明显的道德指向、人权理念以及政策思维方式，并受到合宪性审查的制约 。在中国，更类似的现象倒是最高法院关于确定量刑幅度和计算赔偿额的具体标准的司法解释以及一些法院最近试行的量刑指南规则，与电脑自动处理软件系统其实并没有什么太多的实质性联系。既然电脑量刑的宗旨是精密化审判，那么专家系统软件本身首先就必须经得起精密的“审判”、法官也必须具备不犯误导鼠标之类人为错误的品格素养――这是一个无需计算机就可以推导出来的结论。
五、诉讼信息系统与智慧法院在各地
与电脑量刑处于不同层面的审判辅助信息系统也在不断发展，从2007年到2017年这十年，中国各级法院都在快速进入信息化时代。2007年，最高人民法院做出了《关于全面加强人民法院信息化工作的决定》，紧接着制定和颁发了《人民法院审判法庭信息化建设规范(试行)》。在总结实践经验的基础上，最高人民法院在2011年下达《人民法院审判法庭信息化基本要求》，在2013年颁布《关于推进司法公开三大平台建设的若干意见》，并在全国第四次司法统计工作会议上首次提出“大数据、大格局、大服务”的理念。2014年8月1日，最高人民法院开通了中国审判流程信息公开网，年底又开通了诉讼服务网，2015年12月底还开通了律师服务网络平台。从2015年开始，信息化进程再次提速，《人民法院信息化建设五年发展规划(2016-2020)》和《最高人民法院信息化建设五年发展规划(2016-2020)》同时发布，不久天平司法大数据有限公司宣告成立，“法信—中国法律应用数字网络服务平台”正式上线。同年7月，最高人民法院首次提出“智慧法院”的概念;一年后“智慧法院”建设列入国家信息化发展战略纲要。在第三届世界互联网大会上，最高人民法院又牵头组织“智慧法院暨网络法治论坛”，发布了关于司法信息化、智能化、网络化的“乌镇共识”。
“智慧法院”是一个具有多层涵义的概念，不宜把它简单化为“人工智能审判”。例如上海第二中级人民法院在2012年推出 “C2J法官智能辅助办案系统”，具有审理工作支持、裁判文书分析、移动终端办案APP等35个子系统，涉及类案呈送、远程庭审、跨境取证、协同执行等许多功能。上海市高级人民法院建立了由门户网站(内网、外网)、中心数据库、六大信息应用系统、133个应用软件以及计算机和多媒体系统基础设施组成的“上海市高级人民法院大数据信息系统”，实现了网络三级联动、应用全面覆盖、数据即时生成、信息高度聚合、资源充分共享的构想，并搭建了12368诉讼服务平台，分别面向当事人、律师以及社会公众提供各种信息 。同年浙江省高院推出全省人民法院信息管理系统。江苏省高院在2014年建立诉讼服务网“江苏法务云”，不仅提供诉讼、审理、司法行政方面的信息服务，还是判决执行过程也可视化了。2016年底，北京市高院推出智能研判系统“睿法官”，被称作“机器人法官” 。受到“阿法狗”、“阿法元”等新闻热点的影响，围绕“机器人法官”、“机器人律师”的话语泡沫也在不断膨胀，有些地方法院开始大力宣传诸如判决通过人工智能自动生成、根据大数据对法官判断的误差进行矫正等创新举措。
2017年6月初，中央政法委员会组织十几个专家学者到上海、南京以及贵阳考察司法体制改革试点的成果，各地、各机关介绍经验的重点其实已经在不经意间从司法体制革新悄然转向司法技术革新。智慧法院、数据法院、诉讼服务综合信息系统、电子质证、案件卷宗流转的云柜互联、智能语音庭审流程、裁量权的数据铁笼、机器人律师，诸如此类的流行语、新概念、前卫现象层出不穷、千姿百态、铿锵作响，既让人感到振奋，也让人顾虑相关的风险和隐患。无论如何，各地各级的法院都似乎变得越来越像一座座判决工场、各种各样的法官似乎都变得越来越像在流水线上机械操作的一个个办案技工。实际上，在很多场合，审判俨然已经成为法官与电脑工程师共同决定的结果，判决自动生成机制也很容易导致数据算法支配个案司法的事态。总之，审判空间正在发生非常激进的改革，雷厉风行、天翻地覆，并且势必影响今后各种法律机制设计以及法学教育的场域，我们不能不从正反两个方面来仔细观察、深入分析、全面评估“互联网+”和“人工智能+”在审判空间的各种波及效应，从制度和思想上采取未雨绸缪的应对举措。
六、对司法人工智能热的冷思考
近几年来随着社会结构转型和公民权利意识的加强，中国法院受理的案件规模年均以两位数增长，颇有诉讼爆炸之势，导致法官人均办案件数急剧攀升且居高不下，这也是司法当局积极采用互联网、大数据、云计算、人工智能等新型信息技术以提高司法效率的重要原因。从上海到贵州，各地法院都在通过案件繁简分流、核定法官年均最大办案量、加强考核问责、调整法官与审判辅助人员比例等方式缓解案件积压事态，提出了“向信息化要人力、要效率”的口号 。通过计算机信息检索系统和其他辅助手段来减少机械性劳动的负荷，提高材料、数据等处理的速度和质量，这的确是行之有效的。在这个意义上完全可以说，“智慧法院”的建设具有重要价值，也大有可为。但是，如果更进一步，让人工智能超出辅助性手段的范畴而全面应用于审判案件，甚至在很大程度上取代法官的判断，那就很有可能把司法权引入歧途。因为在案件事实曲折、人际关系复杂、掺杂人性和感情因素的场合，如何根据法理、常识以及对机微的洞察做出判断并拿捏分寸进行妥善处理其实是一种微妙的艺术，不得不诉诸适格法官的自由心证和睿智，即使人工智能嵌入了概率程序、具有深度学习能力也很难做出公正合理、稳当熨帖、让人心悦诚服的个案判断 。
更重要的是，对人工智能的过度期待或者误解可能导致现代法治的制度设计分崩离析，引起社会结构出现矛盾、混乱乃至失控的事态。在现代国家治理体系中，法院是政府权力与个人权利之间关系的校准器，是秩序形成和维持的枢纽。为了确保司法的公正和权威，在制度设计上让法官享有某种身份上的特权——只服从法律以防止任何外部干扰、确保可问责性;被赋予法律适用和法律判断的终局性权力;在程序公正的前提下具备包括豁免在内的职业保障。这样的身份特权得以正当化的理由是法官的遴选标准是最严格的，足以确保其学识和人品的适格性;审判程序是最公开、透明、公正的，可以防止无原则的妥协和暗箱操作;任何决定都必须经历对抗性辩论和证明的洗礼，往往采取三审终审的做法，是在法律推理和充分审议基础上做出的判定;正是基于上述原因，终审判决也是任何纠纷案结事了的最佳时间节点。显而易见，以毫无节制的“人工智能+”方式改造审判空间后，这样的法官定位势必发生极大的动摇，甚至造成审判系统乃至司法权的全面解构。
让人工智能自动生成判决、根据大数据矫正法律决定的偏差等做法势必形成审判主体的双重结构、甚至导致决定者的复数化，事实上将出现程序员、软件工程师、数据处理商、信息技术公司与法官共同作出决定的局面。一旦审判主体和决定者难以特定，那么权力边界也就变得模糊不清，司法问责制就很容易流于形式，至少推卸责任的可能性被大幅度扩充了。另外，智慧法院的设想如果流于片面、走向极端，普及计算机自动生成判决的机制，势必导致算法支配审判的事态。当然，计算机生成的只是参考文本，法官还需要审阅矫正;但是在受理案件数激增和法定审理期限刚性规定的双重压力下，加上人的思考惰性，或迟或早会出现法官过度依赖参考判决处理案件的倾向。一旦这样的情况司空见惯，算法独裁就无从避免。大数据也会使既有判决中存在的失误、质量问题以及偏差值在无意间被固定化，压抑通过个案发现合法权利、创新规范、推动制度进化的动态机制。更重要的是，大数据和人工智能将会变成法庭辩论的“断头台”，酿成“一切取决于既定的软件，面对面的对话式论证算不了什么”的氛围，使中国本来就很孱弱的法律推理、法律议论以及法律解释学更加无足轻重。这意味着从根本上改变现代司法过程的结构和功能，使得法官自由心证失去了“从心所欲不逾矩”的制度上、技术上保障。
来源多样化、规模不断膨胀的法律数据本来就不可能完美无缺，何况在中国快速发展的过程中还存在比较严重的质量问题，甚至也有基于政绩考虑的数据造假的问题 。在这样的状况下，电脑算法其实也构成一个暗箱，如果片面而过度强调大数据和人工智能在司法中的应用，那就很容易使得算法和推断继承原有司法实践的弊端和偏见，甚至还会放大某些缺陷。如果在不经意间司法系统被唯算法论所支配，那么合法正义就难免被算法绑架、被数据处理商绑架的命运。为了防止这样的暗淡前景，必须借助法院组织法和法官法修改的机会，明确定位裁判主体、案件审理机制以及新型信息技术。从目前的法律修改草案和讨论内容来看，“互联网+”、“人工智能+”的时代变化并没有及时而充分地反映到立法过程中。例如法院组织法没有明确规定司法辅助人员的权利义务，这与目前审判现场的巨变不相适应;数据处理部门、电脑工程师对案件审理正在产生深刻影响，法院的信息处理外包业务庞大，这些新领域、新现象都有待法律进一步明确界定。另外，面对法律和计算机程序编码以及大数据算法的支配，应该强调法官“有思考的服从”原则，并为法官综合名实、统筹裁量留下充分的空间。再者，判决自动生成的技术如何与法律解释和法律沟通兼容，如何防止人工智能压缩法律议论的空间?如何在人工智能时代确保程序、辩论、共识的司法三要件不仅维持、而且还进一步强化?如何为法律职业提供新的坚实基础?这些问题都是必须认真考虑的。
在新的社会背景下推敲司法责任和司法民主，制度设计不得不面对的两大问题是如何防止法官的责任负荷太重?如何防止法官想方设法推卸责任的行为?中国解决责任负荷太重的问题，主要进路是发展院外解纷方式或者司法的直接民主化以及借助信息技术提高效率、分散责任。其结果，很容易在审判主体多样化、审判标准多样化的状况下形成某种互相推卸责任、转嫁责任的通道。计算机软件系统能够从技术上确保全程留痕，也许在一定程度上可以减轻类似问题。但是，数据铁笼、判决自动生成等做法很容易造成算法支配审判的事态，使得法官无从负责，对法官办案的结果也很难进行切实有效的问责。一旦形成算法专制的局面，法庭辩论、上诉审、专家酌情判断的意义都会相对化，结果将导致法官的物象化、司法权威的削弱、审判系统的解构，甚至彻底的法律虚无主义。
一般而言，法律制度的主要功能是形成秩序、解决纠纷、提供明确的预期以及价值正当性根据。所谓国家治理体系和治理能力的现代化，关键在于树立法治理念，规范公权力的运行，培养政府与全体人民共同遵守法律规则的行为方式和思维方式。为此，法律体系，特别是审判制度不得不具有充分的合理性和中立性，以提高整个社会运行的效率和公平。执法者和司法者始终面对的是各种利益冲突和价值冲突，为了有效化解矛盾，法律推理和法律议论必须摒弃唯我独尊的态度，必须善于倾听不同的主张和论证，必须使决定具有普遍说服力，让对立双方都接受和认同。这样的根本特征决定了法学研究的立场和法学教育的宗旨。对于法律的决定过程而言，无论哪一种观点都可以在平等而公开的程序竞技场提出来，都需要经历说服力比赛的洗礼。换言之，法治的本质是以理服人，而不是以力压人。特别需要指出的是，司法权的中立性注定了对不同利益诉求和价值判断采取兼容并蓄的态度。司法权的终局性注定了要通过辩论的优胜劣汰机制选择出一个正确的最终解决方案，这个方案至少要满足两个要件：第一、在逻辑上完全自洽，决不能出尔反尔、自相矛盾;第二、在价值判断上反映社会的最大公约数，具有最大限度的普遍说服力。在这样的现代法治体制面前，大数据、云计算、信息技术、人工智能都只是实现合法正义的辅助手段，切不可本末倒置，这是我们始终应该铭记的一条基本原则。
