智能革命与技术治理的关系是一个大题目。智能革命已经到来，这个提法是站得住脚的。学界提出的各种“革命”太多，就工业革命而言，有人都提到第六次工业革命了。实际上，“革命”不过是一个隐喻，能不能成立并不重要，重要的是提出这个“革命”要表达什么，是否有价值。显然，智能革命会大力推动整个社会技术治理的程度和水平，同时会导致社会风险。智能革命社会风险包括运用智能技术的智能治理风险，不是科学技术本身的问题，根本上是政治、制度和实践问题。关于这个问题，技术哲学荷兰学派如佛贝克等人力推的道德物化的角度很有启发性，但道德物化处理的问题过于细节，大的问题还是要借助制度安排来应对。
智能革命和AI技术对社会公共治理会有什么样的影响？对此问题，大家都是基于智能革命和AI技术充分发展的远景来回答的。答案存在两种相反的极端态度：一种是乐观主义的，像成素梅教授那样，认为以后可能出现一个“AI理想国”；还有一种是悲观主义的，可以称之为“AI机器乌托邦”。这里先讨论一下悲观的想法，过后再讲乐观的想法。
很多人都讨论过物联网和大数据对于技术治理的推动作用。家用的小米机器人，它要在家扫地，当然要搜集和分析房间的信息，也就是说，AI应用离不开物联网和大数据，如果后两者对技术治理有推动，那么AI对技术治理的推动就不言而喻了。
悲观主义者总是担忧智能治理和AI治理：智能革命时代，电子圆形监狱（electronic panopticon）会不会到来？大家研究信息哲学，都知道边沁和福柯提出的圆形监狱理论，以及后来流行的电子圆形监狱概念。用圆形监狱理论分析物联网的结构与功能，会发现物联网会偏好极权控制，因而本底上是会侵犯人的隐私的。在具体意象上讲，就是小说《1984》中无处不在的电幕，对所有人进行监视。这主要考虑的是物联网隐私问题，到了AI技术和智能革命的时代，这就不光是一个隐私问题，除了监视，机器人当然是可以诉诸实际行动的，比如对人进行拘押。机器人收集和行动的能力如果扩展到社会公共事物和政治领域的时候，会产生比电子圆形监狱更强的负面效应。换句话说，到了智能革命时代，电子圆形监狱才可能成为真正的监狱：从监视、审判到改造可以一体化完成。也就是说，电子圆形监狱会不会成为机器乌托邦？这就是当今敌托邦科幻文艺的一个大类，即“AI恐怖文艺”所要抨击的景象，在好莱坞电影《终结者》系列中得到最著名的呈现：机器人对所有人的牢狱统治。
当然，所谓隐私是社会建构的，是历史变化的，是有地方性的。为什么当代中国人越来越讲隐私，但同时很多人在朋友圈晒自己的私密生活？这说明没有普遍的一致的隐私，隐私观是很不同的。在中国古代，人们是缺少隐私观念的，或者说隐私观念是很不同的。古人讲，不发人阴私，这不是说尊重人权，而是说要做君子。中国古代最高权力者皇帝是没有隐私的，他的一举一动都在《起居注》中记载得清清楚楚。旧式大家族中人们同样没有隐私，年轻人要早晚向父母请安，什么事情宗族都会知道、要干预。隐私与人权有关，中国传统是没有这个概念的。奇怪的是，没有隐私，数千年来中国社会治理和社会生活大体运行得也很平稳。实际上隐私观在中国就是随着ICT技术和网络兴起传到中国来的，在80年代都很少有中国人讲究隐私。随着物联网和大数据技术的推进，中国人还在形成中的隐私观很快会发生改变，比如很多人现在出门在“去哪儿”APP上定房间、安排行程，把个人信息让商家知道，觉得很方便。
隐私社会建构论实际上并没有否定物联网偏好极权的观点。隐私观的改变，从某种意义上说是对技术发展的屈服。然而到了智能革命时代，极权的触角可能伸到的地方不再仅仅是看，而是会有具体的行动、对肉体和思想的严格控制。如果电子圆形监狱在社会上广泛建成的时候，这就是所谓的最坏的智能治理社会，即“机器乌托邦”就会到来。也就是说， AI技术是有可能催生机器乌托邦的。
机器乌托邦会是什么样的？通过对批评既有的技术治理、智能治理以及AI在社会公共领域应用的各种思想文献来进行分析，可以得出它的基本意象。当代西方的科幻小说有个很重要的特点，即乐观主义情绪很少，并且基本上都与对智能革命的想象有关系。这样一种想象在西方是很流行的，它所勾勒出来的未来社会是一架完整、严密和智能的大机器：由于 AI技术的广泛应用，每个社会成员都是这个智能机器上的一个小智能零件，而且是可以随时更换的零件，和钢铁制造的零件没有差别，这就是“AI机器乌托邦”。以好莱坞为代表的科幻影视，对此有各种各样的刻画。
从批评的文献、文艺和影视作品中，可以归纳出AI机器乌托邦的四个主要特点。第一个是AI机械化，即把人、物、社会所有都看成纯粹机械或智能机器，对所有的一切要事无巨细地进行智能测量，包括人的思想情感，可以还原成心理学和物理学的事实以此来进行测量。第二个是AI效率化，也就是说，AI机器乌托邦它核心的价值主张是效率，智能要讲求效率，科学技术是最有效率的，没有效率的东西比如文化、文学和艺术都是可以取消。AI机器乌托邦社会运行的目标就是科学技术越来越发达，物质越来越丰富，人类文明不断地扩展，要扩展到整个地球，扩展到月球，扩展到火星。第三是 AI总体化，也就是说整个社会是一个智能总体，按照建基于物联网、大数据、云计算和AI等智能技术之上的社会规划蓝图来运转。所有国家政党、社会制度、风俗习惯以及个人生活全面被改造，没有人能够逃脱总体化的智能控制。第四是AI极权化，AI机器乌托邦是反对民主和自由的，认为民主和自由没有效率，支持的是由智能专家、控制论专家掌握国家大权，公开实现等级制度，然后以数字、智能和控制论的方式残酷地统治社会。
用AI技术对社会进行公共治理是不是就必然会导致机器乌托邦呢？不一定，因为所有的技术治理包括智能治理可以有很多不同的模式。一种是激进的，整个社会要打乱重新按照智能蓝图来建构；另一种是温和的，在现有的基础上进行改良，而温和派之间也有很大差别，所以历史上是有很多不同的技术治理模式。
对AI机器乌托邦意象的总结有何教益？西方对智能治理、AI治理的批评，我们并不完全赞同，但是从理论上考虑 AI机器乌托邦的危险或风险是很有必要的。在历史上并没有真正出现过AI机器乌托邦，它还只是在人们恐惧的想象中，但是从理论上说它还是可能出现的，因此要避免极端的AI机器乌托邦的出现。上述AI机器乌托邦意象的四种特征，是要在AI技术、智能技术应用于社会公共治理的过程中极力避免的，当然这是非常复杂的问题。这里有一些初步的思考，比如要避免AI总体化，必须要避免封闭性智能社会，实际上封闭性在网络社会是很难完全做到的；比如避免AI机械化，涉及社会主流观念尤其是科学观的改变，一百年前主流的科学观是机械主义的，现在并不如此；比如避免AI极权化，关键是选择适当的智能治理模式，不一定和自由民主相冲突。奥尔森指出，技术治理在21世纪有“软”化的趋势，不像以前那么“硬”了。比如，要避免AI经济至上的观点，社会局部的规划要服从更高制度的安排，智能治理不能成为惟一或最高的治理安排，而应该是作为一种局部的工具。总之，智能革命的到来加大了AI机器乌托邦的风险，因此必须考虑制度设计与应对，这个问题从根本上说不是技术问题，而是政治问题。
原载于《山东科技大学学报》2019年第1期。
