近年来，人工智能技术的发展和对于人工智能的学理探讨都呈现出一派繁荣景象。就产业发展而言，人工智能作为当代产业革命的新引擎，正在成为各行各业数字化、自动化和智能化的重要载体，不仅向着工业、医学、服务等多个领域渗透，改变着我们的生活世界，而且向着绘画、音乐、作曲等人文领域进军，改变着人文社会科学的研究格局，由此正在把人类文明推向智能化生存的全新维度。就战略方针而言，人工智能越来越成为美国、中国、日本和欧盟等主要国家提升国际竞争力和争夺经济主战场的战略重点。就研究主题而言，除了人工智能的科学与技术、产业发展与联盟以及决策等问题之外，还有不计其数的论文从社会、政治、法律、伦理、认识论、本体论乃至价值论等视域来探讨人工智能有可能带来的潜在问题及其社会变革。当人工智能的应用变得司空见惯之后，它就会像电力和互联网一样，变成人类生活的背景或基础设施。然而，有所不同的是，人工智能的“智能性”迫使我们在享用其带来的便利的同时，不得不前瞻性地深入明辨它对人类文明的演进所带来的挑战。2018年，这些挑战已经从学者们的学术探讨内化到国家战略之中。
这一年，习近平主席在致“2018年世界人工智能大会”的贺信中提倡各国深化合作，共同处理好人工智能在法律、安全、道德伦理和政府治理等方面提出的新课题。随后，他在中共中央政治局就“人工智能发展现状和趋势”举行的第九次集体学习时强调，“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可控。要整合多学科力量，加强人工智能相关法律、伦理、社会问题的研究。建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德”。
这一年，美国发布AI白皮书《机器崛起：人工智能及其对美国政策的不断增长的影响》，重点剖析了人工智能可能带来的失业、隐私、偏向和恶意使用四个方面的问题，并提出了相应的应对方案。欧盟25个成员国领导人共同签署了《加强人工智能合作宣言》，并设立了“数字欧洲”项目，旨在共同确保欧洲在研究和部署人工智能方面的竞争力，携手应对人工智能可能带来的社会、经济和法律等问题。此外，欧盟还出台了《关于可信赖人工智能的伦理准则草案》，倡导在开发人工智能时遵守利益最大化和风险最小化的原则，并制定了实现可信赖的人工智能的框架方案。
世界各国对规避人工智能发展带来的潜在风险的高度重视足以表明，人工智能的发展已经激发了人类关于自身价值的重新思考，使价值问题成为人类文明未来发展必须直面的关键问题。在此之前，蒸汽革命、电力革命和计算机革命虽然导致了人类文明从农业文明转向工业文明，但是在此转型过程中，人类追求技术的热情有增无减，从来没有在世界范围内自觉地提出反思人类价值的问题。虽然人们承认技术是一把双刃剑，但通常认为技术的善恶不在技术端，而是在使用端。也就是说，技术的恶是由技术的使用者造成的，与技术本身无关。然而，人工智能却超越了这一界限。这既是由人工智能本身的学科性质决定的，也是由人工智能在未来社会中所起的作用决定的。
第一，人工智能是一个跨学科的领域，不仅与物理学、化学、生物学、心理学、认知科学、神经科学等自然科学，以及量子信息技术、生物技术、纳米技术等当代技术相关，而且涉及智能、认知、思维、心灵、意识等哲学概念。事实上，人工智能是一项知识工程。它在赋能百业之余，最直接也最明确的目标是让机器能够像人一样灵活自如地完成任务。真正实现人工智能的时代，机器对人的模拟不是机理性的，而是功能性的。从机器模拟人的功能意义上来看，我们对通用人工智能人的向往与追求，已经全方位地向人类发出了必须彻底反思自身及未来文明走向的强烈信号。
第二，人工智能是建立在一套行之有效的算法基础上的，而算法的优化又是建立在大数据基础上的。数据不同，算法的设计与优化也就不同。因此，能够体现出“智能”的算法本身并不是中性的，而是天然地蕴含群体和个体的偏向：一是植根于设计者的生活习惯与文化习俗之中并先于算法的设计而潜存的文化偏向；二是源于设计者的技术水平和技术考虑并嵌入在整个设计过程之中的技术偏向；三是在用户对数据的使用过程中涌现出来的使用偏向。这三种偏向是隐形的和潜在的，而不是明显的和有意识的。因此，负责任地进行算法设计的伦理嵌入就成为确保人工智能做正确之事而不是做错误之事的关键所在。
第三，人工智能的世界是数字化行为构成的数据世界。当数据成为我们认识世界的界面时，我们事实上已经无意识地把获取信息的方式交给了算法。一方面，机器人正是通过算法学会如何在海量数据中挖掘出有价值的隐藏信息，以形成决策资源，并预测相关事件发生的可能性，这给我们的思维方式带来转变。如，在搜索引擎的引导下，我们从重视寻找数据背景的原因，转向了如何运用数据本身。此外，算法会基于个人的行为数据，通过个性化的自主信息推送，强化使用者留下的消费习惯或行为习惯，如网络查询在某种程度上能够还原查询者的兴趣爱好和各种隐私偏好等，算法本身的不透明性和使用者的透明性形成了鲜明的对照。
第四，对于人类文明的演进而言，共享语言就是共享一种本质。在人工智能时代，当我们有能力以机器能够理解的语言来表达自己的意愿，乃至习惯于运用机器能够听懂的语言来实现自己的目标时，我们就需要共享机器语言，以编码的方式来描述愿望和目标。如此一来，我们就需要学习编程，以便扩展我们的本体论前景。问题在于，当我们改变了用来描述愿望和目标的语言时，也就相应地改变了我们的愿望和目标本身，这是我们在智能化人类文明未来必须要面对的深层次本体论问题。因为人类的语言是人类历史所固有的，是我们的生理、心理和文化所蕴含的长期演化的产物，而机器人所能理解的语言是程序化的人工语言。因此，机器赋予人类语言意义的能力是极其有限的，人类不能与运用人类语言的机器进行随机应变的机敏对话，也不能完全用自然语言描述机器所遭遇的数据世界。人类的愿望与目标是人类建构的，超越了自动化与智能化的范围。
第五，人工智能的发展有可能使人类智能突破个体智能的局限性，出现集体智能和合作智能，这超越了人与机器之间的控制与被控制、主导与被主导的二元关系。过去的机器是有寿命而无生命的机器，尽管能力超人，但归根结底总是受到人的控制与指挥，而受人工智能驱动的机器则是有鲜活生命和自主能力的机器。一方面，在人工智能时代，人不再像工业文明时代那样成为机器的一部分，而是反过来，机器成为人的一部分，如美国SpaceX公司的CEO埃隆·马斯克就坦言，他的公司未来将研究如何将芯片植入头骨来实现人机融合。然而，问题在于：如果人机融合的愿景真的实现了，那么我们如何避免掌握技术的少数精英通过芯片来控制被植入者呢？另一方面，有许多人担心，如果通用人工智能乃至超人工智能有朝一日被研制成功，那么，智能机器不仅会全面超越人类来进行自主决策，而且还会脱离人的控制，成为主宰人类的“上帝”。尽管人工智能研究者认为，这种通用人工智能出现的可能性还遥遥无期，但是，由此引发的担忧却值得关注与深思。
人类文明已经发展到有所为而有所不为的时代了，这就迫使我们不得不反思这样的问题：当我们把智能化发展看成实现人类追求的骄傲和理想以及国家制胜的法宝时，我们希望通过智能化的发展塑造什么样的文明形态？自人猿相揖以来，习惯为发展经济而奋斗的人类，如何为迎接有可能全面解放人类劳动的智能文明的到来，前瞻性地做好各方面的思想准备呢？历史地看，人类文明从诞生之日起就钟情于一切来源于人类智慧的产物。人类文明的转型发展虽然不是源于理论安排，而是社会实践和日常生活的结果，但生活在受人工智能驱动的信息文明深度发展和智能文明崭露头角过程中的我们，必然要肩负着自觉引领人类文明未来发展的重要职责。我们对发展人工智能的选择，不只是在选择技术，更是在选择人类文明的未来，人类使机器像人一样能够做到“厚于德、诚于信、勤于思、慎于言、敏于行”的追求过程，也是人类有意识地进行自我塑造和自我反省的过程。
（本文系教育部哲学社会科学重大课题攻关项目“人工智能的哲学思考研究”（18JZD013）阶段性成果）
（作者单位：上海社会科学院哲学研究所）
