我想从我的专业角度，或从宗教角度来谈谈人工智能，意在提醒：我们必须“学会自我规限，预防灭顶之灾”。
一
按照一些专家的总结性说法，人工智能的发展有三个阶段。第一个阶段，是“狭义人工智能”或称“弱人工智能”阶段。其特点是，我们赋予了人工智能一定的或某些方面的人类能力，赋予它们特定的技能，以便完成特定的任务。
人工智能发展的第二个阶段，是“广义人工智能”或称“强人工智能”。它同狭义人工智能的最大区别，是它可以得到全面的人类能力，除了有自我学习、自我改进的能力，还能够确定目标，甚至有繁殖的能力——它可以制造很多后代，改进了的、比自己更强的后代。
这个阶段何时到来？人工智能界内有少数人认为需要几百年，甚至上千年；理由是，人工智能似乎没法具备人类的一些能力，例如感情。然而在人工智能界，很多人认为这可以做到，而且，广义人工智能最快5-10年就会出现；业内绝大多数人认为，2075年，或者说本世纪的下半叶，广义人工智能就会出现。
在“广义人工智能”出现以后，我们会在几年之内甚至几个月之内，进入第三个阶段，就是所谓“超级人工智能”的阶段。
“超级人工智能”比人的能力强大得无法比拟。其增长的速度，可能是几分钟之内成百倍，很快就变成百万倍，然后变成百亿倍！以这样的速度来增加能力，它们很快就可以控制这个世界或者控制人类，所以极其危险。
这就引出一个问题：我们必须进入这样一个阶段——“友好人工智能”的阶段。这意思是，我们必须使“超级人工智能”不对人类造成危害。可惜，对此，我们现在毫无把握，甚至无法预测！
二
从宗教的角度如何看待人工智能？我想从世界上人数最多的宗教基督教的角度来说说。就神创造世界而且造人这一点来看，基督教的基本观点同犹太教、伊斯兰教的观点基本一致。这三个宗教的信徒超过了世界人口的一半以上，如果加上印度教徒，就已经超过了世界人口的70%。
从宗教角度来看，我们首先应该谈谈“学会自我规限”。规限？从何说起？大家知道，有一个世人皆知的重要故事，是基督教的，也是这三个宗教共同的故事，即“创世”的故事。
这个故事说，人和世界一样，是上帝的造物；但是，与世间万物不同，人是按照上帝自己的形象创造的。什么是上帝的形象？当然不是米开朗琪罗画的那种形象——一个白胡子老头。对于什么是上帝的形象这个问题，神学的回答复杂多样，还有争议。既然上述三种宗教都认为，世间万物都不是按照上帝的形象创造的，只有人是这样，那么，上帝的形象就可以用这样一种方法去探索，即，看看人同万物有什么不同。那不同之处，如果不是人自己造的，那就很可能至少是上帝形象的一部分吧。
人同万物的不同之处， 即万物所无、只有人才具备的性质，就我们现在了解的来说，至少有三点：
（1）自由。自由就是一事当前，不由法则来决定，而由意志来选择的能力。
不用说其他事物，即使在能动性方面最接近人的动物，其行动也全都是由自然法则来决定的；人虽然不按自然法则行动可能会吃亏，但人的意志可以选择顺从或者违抗法则。
（2）心智。它包括两大部分，一部分是“心”，指的是情感、想象、良心等非理性的能力，另一部分是“智”，指的是计算、推理、谋划等理性的能力。
（3）“创造性”。创造性就是制造或创造前所未有的新事物的能力。
当然，人的自由，同上帝的自由相比是有限的，因为它受到先在条件的限制；人的心智，同上帝的心智相比也是有限的，因为它也受到限制，起码有时间和空间的限制；人的创造性，同上帝的创造性相比是有条件的，因为原意的创造，按照这些宗教的说法，是上帝“从虚无创造”，从无到有的创造（宇宙创生于时间、空间和物质都趋近零的“奇点”，即虚无；老子说万物产生于道，而道即无，也有此意），与之相比，人的创造需要先在的质料或物质，所以是有条件的。
人的这三个特性，或人与万物不同的“本性”，在人的实际生活中，即在“实存”中，自由表现为欲望的无穷，这就需要“良知”的指引；心智表现为求知的无穷，这就需要以“悟道”作为目标；创造性表现为超出感情意义伦理意义的爱，即博爱、泛爱、大爱，这对于人性有超拔的作用。
说人的本性或能力，一句话，“是有限的”。人应该明白这一点，才算是认识自己，才算有自知之明。
还有一点必须补充。这种宗教观点认为，人之所以堕落，被逐出伊甸园，是因为人听从了魔鬼（那条蛇）的引诱，想要“像神一样”，想要“如神”，违背了上帝对人的规定。于是，上帝赋予人以自由，遭到了反叛，人的违规是滥用自由，遭到了惩罚。
总之，关于上帝“形象”的说法，以及伊甸园的故事都表明，人应该对自己有所规限，而不应该滥用自己的自由。
三
人工智能是什么呢？正如人是上帝的造物，人工智能也是人的造物。但是，它同其他的任何人造物都不一样，这一点意义重大。
人把石头磨成石斧，把树枝磨成梭镖，是所谓“文化”的开始，即人初步地“人化”自然。后来的人类文明，有几千年的农业时代、几百年的工业时代，其间，人类创造了种种工具、机器，那虽然蕴含着人的智慧，但都旨在减轻或取代人的体力劳动，并且主要是生产物质产品。然而，我们知道，同动物不同的人的本性，不在于体力，不在于肌肉的力量或物理力量，因为动物也有同样性质的力量。所以，人并未将自己的本性赋予机器。
可是，人这一次的造物，是第一次试图“按照自己的形象”来创造，像上帝造人那样。人这一次想要机器拥有的，不是体力，而是脑力。
人的精神产品呢？那的确是人类特有的，是人性的产物和表现。但是第一，精神产品在以前，只有人能够创造——而现在电脑作画、作曲、作诗，似乎能生产精神产品！第二，精神产品在前农业时代、农业时代以及工业时代，都离不开物质载体；文学、史学、哲学、艺术、音乐，都离不开木石、金属、纸张、画布、塑料等物质载体——而现在电脑作画、作曲、作诗，都以数码信息保存，但是信息本身，应该不属于物质。
以往文明的事实表明，第一，人类没有让渡自己的本质，没有把自己的本质交出去；第二，人类没有办法摆脱自己的局限，而要依赖于物质材料。
但是现在，发生了一场大革命，人类历史发生了前所未有的大变化！这一切发生在短短几十年的信息时代，也就是正在开始的人工智能时代。人类没有完全意识到它的重要性、爆炸性、革命性。因为，我们已经对新事物熟视无睹，麻木不仁，不加追究，不加反思。例如不久前世界上没有手机，后来有了手机但只能打电话；现在呢？人人都习惯于手机有多得用不完的功能，习惯于手机迅速更新换代，习惯于手机替代了许许多多以前长期存在并被认为不可替代的机器和人工， 可是，却很少有人对之表示惊讶！
在这个时代，人开始把人性第二部分的一半以及第三部分，即心智所包含的“智”（如记忆、推理、计算、谋划，甚至理解和学习等能力），以及某种意义上的创造性，交给了机器。我们知道“阿尔法狗”并没有下过棋，但它自己会从几十万个棋局学习，然后战胜世界冠军。是人把自己特有的学习能力交给了电脑。“脑”本是人的最为重要的组成部分，人却把它的能力交给一个机器。
当然，迄今为止，人类还没有，还未能把人性的第一部分，即自由，赋予人工智能；人类还没有，还未能把人性第二部分的另一半，即心智所包含的“心”（如情感、想象、良心等等），赋予人工智能；因为人类还没有、还无法完全摆脱自己的局限。而且，人的创造物即人工智能，还离不开硅或一些稀有金属作为物质原料；这说明人工智能也还没有，还无法摆脱一些基本局限。
我们必须考虑，从正面说，怎么赋予人工智能以所谓的“心”，或“良心”。我前面说的“心智”的两个部分，人工智能已经有了“智”，只是理智的“智”，即哲学家所谓“工具理性”或“技术理性”；但是却没有“心”，超越理智的“心”，即哲学家所谓“价值理性”或“存在理性”，或者老百姓说的良心、人心。从宗教哲学角度出发，我现在还看不到赋予人工智能以“良心”的可能性。
四
我们必须考虑，从负面说，怎么防止人工智能获得所谓的“自由”。作为人的本质或人性首要因素的“自由”，不是从社会政治角度说的那种“自由”（那多半应该说成“权利”），而是哲学上说的“意志自由”，即可以自主选择，可以做好事也可以做坏事的能力。如果给予人工智能这样的自由，那就是给了它们“反叛”人类的可能性和能力。从宗教哲学角度出发，我也很怀疑赋予人工智能以自由的可能性。但是，很多人工智能专家认为广义人工智能经过学习，完全可以自己思考目标、自己做出抉择，那就很接近我说的“自由”，那就非常可怕了！
总之，给予它们“良心”，让它们对人类友好；不给它们“自由”，以免它们滥用自由而反叛人类，这是我们必须思考、必须做到的事情。但是，前一件事情很难，后一件事情也很难。
前面提到，《创世纪》说，人是因为想要“像上帝”，滥用了自由，所以遭到惩罚。而现在，人又想扮演上帝， “按自己的形象”造机器。所以，人面临的危险，也许就是第二次的、更严重的惩罚。
我们应该从上帝那里学经验，什么经验？上帝给人自由，人滥用了自由而反叛，这似乎是负面的经验。但是，按神学的说法，上帝如果不给人自由，那还算什么“造人”呢？那就是造动物了。既然已经造了很多动物，仅仅再多造一个，有什么意义呢？所以，尽管有遭到反叛的风险， 还要按自己的形象造人，还要给人以自由！这恰恰是上帝慈爱的表现。
中国有一句俗话——“养儿才知父母恩”。现在，人类正要按照自己的形象造一个东西，正开始知道将会面临反叛的风险，由此，就应该知道自己也不要反叛。但是，宗教的比喻也不能过头——机器人或人工智能并不是人的儿女。耶稣给人最大的诫命，一是爱上帝，一是爱人如己。我们应该爱的是人，不是机器！人要向上帝学习的，就是爱人，不是爱机器，我们要爱那些同我们一样是人的儿女，爱人类的子孙后代。
正因为如此，我们要学会自我规限，预防人类面临的灾难。不能只图人工智能正面的利益，也要警惕人工智能负面的结果，这样才能防止全人类陷入灭顶之灾。
[何光沪，著名宗教哲学家，中国人民大学宗教学系教授、博士生导师，曾任中国社会科学院世界宗教研究所研究员、学术委员会委员。本文为作者2018年1月9日在2018“新年期许”论坛的演讲修订稿。]
