我们虽然生活在一个基本没有风险的太平盛世，对风险的恐惧却达到了历史上从来没有过的程度。这不仅表明个人理想的消逝，还意味着人碰到灾难时的惊慌失措，标志着我们再也没有面对孤独和死亡的力量了。
为什么今天会存在普遍的人工智能焦虑？原因正是人文精神的丧失，这使得我们为人工智能技术的快速发展所迷惑，这才是我所担心的，而不是技术发展本身。
南都观察：这次访谈的主题将主要围绕“科技与人文”展开。在2017年发表的《反思“人工智能革命”》 一文中，您表达了身为哲学家的忧虑，认为当前人工智能革命是一场“退回到原点的革命”，其背后是“科学被技术异化和人文精神的丧失”。有观点认为您对当前新兴技术的发展前景过于悲观，对此，您有什么回应？
金观涛：在我看来，这是一件显而易见的事情。虽然我研究的是21世纪的哲学，但我是一个20世纪的人，并不完全清楚当代社会需要什么。当时《文化纵横》的编辑劝我应该将这方面的想法写出来，才有了那篇关于人工智能的评论文章。
我相信，人应当是驾驭技术的，也就是技术的主体。技术首先是一个好东西，而技术进步之所以会带来种种危害，是因为我们丢掉了个人的主体性和道德性，这是人工智能所不具备的。只要掌握人工智能技术的基本原理，就会发现人工智能根本不可能具有个人的主体性意识。我很疑惑为什么很多人会担心它会形成独立意识。事实上，人类至今都还没有完全弄清楚什么是“意识”，这时人工智能作为“人造物”怎么可能具有意识呢？
南都观察：这可能是受到好莱坞科幻电影（如《黑客帝国》）的影响？
金观涛：好莱坞科幻电影所展示的不是真实的世界。我们的先辈即便看再多的科幻电影，也不会伤害自身的个人主体性，更不会担心人工智能将取代人类。
为什么今天会存在普遍的人工智能焦虑？原因正是人文精神的丧失，这使得我们为人工智能技术的快速发展所迷惑，这才是我所担心的，而不是技术发展本身。
需要补充说明的是，我在《反思“人工智能革命”》一文中指出，人工智能和历史上有过的新科技带来的生活方式和生产方式大变革相似，并不会改变现代社会的基本结构。但不可否认的是，人工智能正在影响现代社会的组织形式。
众所周知，现代社会除了由法律和契约提供组织框架以外，还必须向所有人提供不同类型的公共事务服务，如治安、交通设施、教育、医疗等等；为此就要设立处理不同类型问题的专门机构来管理社会，如军队和政府科层组织。
科层组织之间的功能实现和协调，要利用符号表达的共享知识。因此，随着现代社会的复杂化，必定出现技术官僚的膨胀。而人工智能革命，必定会向社会管理层面深入。如果它运用得不好，会使现代社会生长出超级而无能的官僚机构；如果它运用得好，可以促使人能更好地发挥自主性和创造性，甚至可以取代科层管理中不必要的机构。正因如此，新兴技术的发展更需要人文精神的制约，使之向好的方向发挥作用。
南都观察：就您刚才提出的“人工智能不可能具有主体性”这一说法，美国人工智能伦理学家温德尔·瓦拉赫有一个不同的说法：人工智能的道德发展将经历操作性道德、功能性道德，和充分的道德主体性三个阶段。其中操作性道德比较低端，是指道德已完全掌握在设计者和使用者手中；第二个阶段是功能性道德，稍微高端一些，因为这个阶段机器自身已经有能力响应道德挑战；第三个阶段就是计算机可以自己做道德决策的阶段，当然第三个阶段还是开放性的，哲学家、工程师们还需要探讨单单靠一台机器能否成为道德主体的问题。操作性道德和真正的道德主体之间还有着很多的空间。
金观涛：我不了解这个人的学术研究，但你介绍的观点中涉及现代西方哲学对“道德”的一个误读，其将道德视作一个纯粹的公共性社会机制。
事实上，人只有先具备自主性，才能有道德。例如，在孔子那里，善首先是个体的自觉。儒家的君子人格，和社会上知不知道无关，正如一朵兰花开在山谷，根本没有人知道，但它却依然芬芳。善的追求并不需要涉及别人。而在西方人看来，只有在分面包的时候才讲道德，不涉及社会、人际关系的道德伦理是没有意义的。
换句话说，道德源于个体对善的追求，“善”是“好”的普遍化，每个人凭内心就能知晓何为“好”，而不取决于其做了一件好事还是坏事。从这个意义上来说，机器根本不可能成为一个道德主体。
举个例子，哲学家菲利帕·福特（Philippa Foot）于1967年提出过一个“有轨电车难题”：假设你看到一辆刹车坏了的有轨电车，即将撞上前方轨道上的五个人，而旁边的备用轨道上只有一个人，如果你什么都不做，五个人会被撞死。你手边有一个按钮，按下按钮，车会驶入备用轨道，只撞死一个人。你是否应该牺牲这一个人的生命而拯救另外五个人？
这个伦理学思想实验是荒谬的，它体现的是一种功利主义道德观，将大多数人的幸福视作道德。这种道德观是不成立的，例如在古罗马斗兽场中，人与兽、人与人的搏斗会给现场所有人带来快乐，但我们能因此说人与兽、人与人的搏斗是道德的吗？
总之，道德意味着人有选择的能力，这个选择能力包含着人对自己的态度，这是“人之为人”的前提所在。
南都观察：目前社会上还存在另一股截然相反的思潮：技术革命使得人类认识和操控世界的能力越来越强，人们似乎能够自己扮演“造物主”的角色，对人类社会的前景又无限乐观。您如何看待这种思潮？
金观涛：这是一种科学乌托邦，反映的是一种“理性的自负”。
20世纪社会人文社会研究最重要的成就，就是发现“默会知识”和市场的关系。人类可共享的知识都是可以用符号表达的知识，但它不可能包含每个人都具有的“默会知识”。
经济学家利用“默会知识”的存在，证明了基于理性和科学知识的计划经济不可能代替市场机制。一个充分利用人类知识的社会，一定是立足于个人自主、互相交换自己的能力和知识形成的契约组织。忽视所有个人具有的“默会知识”，把理性和可表达的知识做出的人为设计社会制度付诸实践，会出现与原来意图相反的后果，如计划经济带来的短缺、浪费以及普遍的贫困。哈耶克称这种对可表达知识的迷信为“理性的自负”。今天随着大数据和人工智能的应用，这种理性的自负再一次出现在人工智能领域。
为这种理性的自负制作一份解毒剂，是当前思想工作者的一项重要工作，其核心就是恢复人的主体性。
南都观察：相较于人工智能领域，这种“理性的自负”在生命科学领域似乎表现得更明显。
金观涛：是的，现在最大的问题不是人工智能，而是生命科学。
我的儿子是一位生命科学家，他对未来生命科技的发展前景非常乐观。但我总是和他唱反调，我说：“人不可能扮演上帝的角色，最后迟早会出现一条自然法则来证明生命科学是有限制的。科学家应该去将这个限制找出来，而不是为技术的突飞猛进而狂欢。”
但与此同时，基因工程新进展所引发的巨变即将发生、无可阻挡。从历史上看，人总是在没有完全理解一个东西之前就开始操控、应用它——从蒸汽机、电力到互联网、人工智能和生命科技，这也许是人的宿命。既然如此，我们该怎么办呢？
有个说法：人类的求知欲是无限的，其也将毁灭于自己的求知欲。其实，求知欲分两种：一是宏观的和哲学的；二是微观的和细节的。我认为：人类将毁灭于自身宏观理解能力远远跟不上对细节的了解和操纵。这一点在生命科学中表现得最明显。尽管人类对自身的认识和操控能力越来越强，但是，人对生命的宏观理解，都远远跟不上对生物细节知识的了解和操纵。
南都观察：这里似乎存在一个悖论——在面对人工智能革命的时候，您强调人的主体性问题；在基因革命面前，您又说不要将自己当成上帝。
金观涛：在我看来，这两者之间没有矛盾。
科学发展有一个不变的内核：以人为中心，其指的是，人总是借由控制自己可控的变量，来研究自己不可控的对象。人从来不以自己可以直接控制的东西作为科学研究的对象。一把椅子为什么在这里？除非它涉及破案，即认识另一个主体的行为动机，否则我们不会为此作专门研究，更不会设立一门学科。因为那些人可以控制的变量集是我们能够做各式各样受控实验的前提。通过这些受控实验，我们获得真实的经验，界定稳定的存在，去理解世界和自己。
也就是说，科学发展既涉及人的主体性发挥，也包含对未知世界的敬畏和敞开。
而一旦人的主体性和探索未知的精神丧失，其影响将是毁灭性的。举个例子，全球最大的在线影片网站Netflix可以根据大数据分析精准地预测每个用户喜欢看哪部影片。研究表明：用户会更喜欢Netflix推荐给他们的影片，甚至超过于喜欢他们自己挑选的影片。
不难想象，在不远的未来，我们的电脑和手机可能比我们自己更知道我们每顿饭都想吃什么、下一次旅游想去哪，机器会帮我们做出选择。长此以往，人的自由意志将被慢慢腐蚀。无孔不入的多介质媒体将我们完全包围，使每个人都变成肤浅的信息复制传播器，所有人都活在永恒的当下，只关注转瞬即逝的时尚和“此时此地”（Here and Now）。
此外，1990年代，德国哲学家贝克（Ulrich Beck）提出现代社会是一个风险社会，这不无道理。表面上看，现代人可以用各种保险对付契约社会的风险，但这只是将风险互相联系起来，一有风险就是全盘突变，甚至是全球性的。其实，就风险本身而言，现代社会因科技进步和生产力超增长，远比传统社会来得小。但在现代契约社会中只能由个人而不是有机体来承担风险。
我认为应该在贝克的定义前加两个字：现代社会是一个“恐惧”风险的社会。也就是说，我们虽然生活在一个基本没有风险的太平盛世，对风险的恐惧达到了历史上从来没有过的程度。这不仅表明个人理想的消逝，还意味着人碰到灾难时的惊慌失措，标志着我们再也没有面对孤独和死亡的力量了。
遗憾的是，现代人文学科还没能有效地应对上述问题的挑战。
南都观察：史蒂芬·平克有一个观点——人文学科咎由自取，深陷于对世界的失望与批判，不衰落才怪。他抨击了当今社会对理性与科学发起的“战争”，特别是人文学科对科学的攻击利用与妖魔化，还指出女权主义、动物保护主义已经开始妨碍科学发展了，您是否赞同他的观点？
金观涛：现在的人文学科确实存在问题，其仍然坚守上个世纪的信条，坚持科学与人文的分离，人文研究者不懂最新的科学进展，结果是人文研究被科学发展远远地甩在了后面。
但我也不完全同意平克对女权主义、动物保护主义的批评，它们能不能干预科学是一个复杂的问题，暂时没法展开讨论，这里要强调的是，女权主义和动物保护主义的思想也有其合理的一面。
哲学学者冯耀明曾做过一个思想实验：在一个名为德古来的外星世界里，有一种叫作德人的万物之灵。在他们之中出现了一位伟大的哲学家叫德阳明，其主张德民之外的有情或无情之物也都具有“天命之性”，“草木瓦石也有德人之良知”。但他们为了维持生命，又必须从另一种生物——“狄勤士”身上汲取鲜血。因此，他们建立了一个大型农庄，为狄人（“狄勤士”简称）提供最舒适自由的饲养环境，还利用超绝的技术，在狄人的血被吸尽之后，为其实施安乐死，并将其风光大葬。后来，因传染病狄人灭绝，濒临灭亡的德人在宇宙中发现了地球人，后者的生理结构和狄人一模一样，于是德人上下欢腾，迅速建立了一个类似“狄勤士”农庄的“戚勤士”农庄，圈养地球人，并打算在地球上开拓殖民文明，拓展德人的道德世界。
即便人类能享受到与狄人一模一样的待遇，我们会愿意接受德人的圈养吗？不能！因为这意味着我们完全丧失了个人的主体性。那么，如果动物也有朦胧的自我意识，我们还能说动物保护主义不对吗？用动物保护主义干预科学发展可能是有问题的，但我们不能因此全盘否定动物保护主义的价值。更进一步来说，如果没有道德约束，科学发展本身会带来无穷的灾难。
总之，动物保护主义、女权主义都是人类反思精神的一部分，我们不能轻易下论断说这种价值追求是无意义的，但可以说其根据不足，需要进一步的研究。
南都观察：您将当前科学引发的种种问题，都归根于科技与人文的“大分离”，就中国而言，您认为解决这一问题的关键是什么？
金观涛：在我看来，最重要的是继承和恢复八十年代思想启蒙运动的遗产。这句话在当今显得不合时宜，也可能是一个20世纪的人的怀旧，但我们必须注意，1980年代中国经济的发展只是一方面，还有一个重要的方面是科学哲学。
事实上，八十年代“文化热”（即第二次启蒙运动）兴起的标志是中国科学院《自然辩证法通讯》杂志社在成都召开的“中国科学技术落后原因”研讨会，其中蕴含着那个时代的人对科学精神的不懈探索，但这一探索进入九十年代后戛然而止。正如我在《重建真实性哲学》一文中所指出的，科学和现代普世价值是互相关联的，但这种关联往往遭到忽略；而科学之所以带来种种问题，恰恰是因为科学精神的丧失。
今天，中国思想要继续发展，有必要回到八十年代没能解决的那个问题——对科学精神的探索和恢复。
采访：王芊霓、艾其
