成功创造人工智能是人类有史以来最大的事情，然而，不幸的是，这也可能是最后一次，除非我们学会如何避免危险。

——斯蒂芬·霍金

即使人工智能有潜力发展成为可以统治人类的超级智能系统，我们的法律，乃至道德伦理，应该允许这种行为发生吗？换句话说，人类有毁灭自己的权利吗？

——於兴中

於兴中教授是我最为敬重的当代中国学人。他的数十年的学思历程堪称典范。我觉得我与他近二十年的交往是我生命中的奇迹。他的著作《法治与文明》《法治东西》多年来一直是我的手头书，是我思考我所置身于其中的这个世界的重要知识资源。去年我还旅居在伦敦时，因为参加2022年法治中国十大图书的评审工作，惊讶发现他近年来关于人工智能与法律的思考已结集为《数字素养：从算法社会到网络3.0》一书由上海人民出版社出版了，欣喜之余，连忙研读，收获甚大，深感他思考的轨迹虽然一脉相承，但不能不说其思考的重心发生了重大变化。粗略说来，如果说《法治文明》《法治东西》是基于人性三性论阐发中国如何转进为一个法治国家，而《数字素养：从算法社会到网络3.0》则是其于人性三性论阐明人类如何在一个人工智能的机器时代求生存。前者关乎的是中国文明问题，而后者关乎的则是人类文明问题。虽然他谦称《数字素养：从算法社会到网络3.0》一书不过是短小文字的结集，但可以合理地认为，该书实际上是一个当代中国学人关于当下人工智能突飞猛进发展背景下的一部深忧精思之作。

通观全书，我能深深感到於兴中教授渗透在其中的三重忧思，一为人类主体之忧思，一为个人自由之忧思，一为社会正义之忧思。其中人类主体之忧思带有根本性，它关涉到机器有无可能取代人类成为新的主体，因此最为忧心，也最为激动人心。的确，如何认识人工智能的性质，已成为当今人类所面临的最大难题。面对人工智能的产生，於兴中教授在书中多次引用著名理论物理学家斯蒂芬·霍金的话，“成功创造人工智能是人类有史以来最重大的事件，然而不幸的是，这也可能是最后的事件，除非我们学会如何规避风险。”也许我们可以合理地称之为人工智能时代的“霍金难题”，它将一直凝视着人工智能的发展过程。而当美国谷歌著名的前工程总监、顶尖的未来学家雷·库兹韦尔预言奇点的来临即人工智能将在2045年全面超过人类，超级人工智能（ASI）将横空出世，尤其是当下，当人们天天谈论ChatGPT将使人类的大多数人成为多余的存在，碳基生命将被硅基生命所取代，作为碳基生命的人类终将失去存在的价值，失去主体的资格，使得“霍金难题”更显急迫了，而对这一难题的化解着实考验着人类的智慧与勇气。我注意到，虽然於兴中教授在书中从人与科技的角度出发，反复论证科技本质上是属人的存在，人工智能只是人的智性的一部分，人工智能是无法代替人的智能的，认为人工智能本质上不过是人性三性之中智性的显现，心性与灵性不可能在人工智能中体现出来，因此人工智能不可能取代人的主体地位，这颇不同于当代法国哲学家贝尔纳·斯蒂格勒在《技术与时间》一书中所阐发的一种技术主体主义立场，虽则如此，面对智性的过度发展及对心性与灵性的压抑，於兴中教授也是忧思满怀，吁请人性的平衡关系，强调在法律与法律制度中寻找人工智能的位置，例如授予某些人工智能实体合法权利，同时对之施加义务与责任，甚至禁止在特定方向上进行人工智能的研究。此种人文立场是对科技乌托邦主义的有力抨击，正如人类在工业时代发明了核子武器并不必然导致人类的灭亡一样，人工智能的出现虽然如埃隆·马斯克说的那样它比核子武器力量大过百倍，发展人工智能是人类最大的威胁，是在召唤恶魔，但它也并不必然导致人类的终结，因为毕竟人工智能的发展作为一种人类活动根本上还是取决于人本身。

於兴中教授的第二重忧思是个人自由的忧思，它关涉到个人在人工智能时代的生存状态。我们所处的时代一个明显的特征是虚拟存在，网络已经渗透到人类生活的几乎所有方面，今天的人们离开了网络，很难生存下去。互联网一方面给人们带来的无穷的自由，因为它打破了包括时空、语言、种族、国家甚至信仰在内的种种障碍，但另一方面也会对个人自由构成强有力的挑战。於兴中教授认识到，在网络背景下，我们几乎所有的事情都是由算法决定的，算法本是由程序员编写的电脑程式，但今天的算法已经能够自学，自我完善，它所接受的数据越多，对人的行为就越来越多地读懂，因此就可能越来越多地控制人的行为甚至是人的自由。算法权力今天已经成为社会、媒体与社会科学中的一个热门的话题，可见它对个人自由的深刻影响。於兴中教授特别指出，技术发展最大的受惠者是政府与企业，政府与企业对算法权力的操控远胜于个人，因此如何在算法社会重申个人自由，不能不说是一个巨大的难题。

对社会公正的忧思是於兴中教授的第三重忧思。於兴中教授不无忧虑地提出，今天我们还能奢望社会公正吗？他指出，社会不公正乃是所有社会的梦魇，而今日尤甚！因为在算法社会、大数据、人工智能和互联网的背景下，对资源占有和对科技知识的掌握导致了财富、身份、机会和使用权的极不平等，从而更进一步地恶化了社会不公，使得社会正义的前景越来越渺茫。虽然渺茫，人也必须为公正而战。因为人之为人，追求社会公正乃是其基本诉求。於兴中教授提出了一系列在算法社会追求社会公正的主张，其中算法问责我认为意义重大。所谓算法问责就是要求算法系统采用各种防范措施以确保运营商可以验证它是否按照预期运行，并确定和纠正有害后果。他特别指出，在算法社会，权利仍然是渺小的个人面对强大的企业、社团及政府机构的最有效的保护装置，当个人的数据权受到侵犯时，个人应当享有通过法律保护自己权利的便利。

正因为深深渗透在《数字素养》一书中的上述三重忧思，於兴中教授进一步提出了他的数字素养观，他吁请提升全民的数字素养，普及智能科技的基本知识和技能。这对尚处于茫然不知所措的许多人来说，真是一副爽爽的清凉剂。如果从当代中国思想发展的脉胳谱系来看，我认为这里标志着当代中国思想的“数字转折”，意义极其深远。如他所说，人类今天所处的世界已经全然改观，人类已经从神的时代，英雄的时代，人的时代，过渡到了机器的时代。但是对我们绝大多数人而言，我们对这个机器时代还缺乏基本的认知与理解。这个智能科技的新时代首先表现在语汇上的重大变化，如人工智能、智能互联网、大数据、区块链、算法等等新词蜂涌而入我们的生活世界，这些复杂的新词汇，新概念，纷至沓来，令人眼花缭乱。二十世纪伟大的哲学家维特根斯坦说，想象一种语言就是想象一种生活。数字时代的语言正在不断地被创造出来，标志着数字时代的生活也正在构成我们的生活。但我们必须学会辨认真伪虚假、夸张炒作，不至于被信息化、数据化、数字化的大潮所淹没。於兴中教授批评现在的社会人们更多地所关注的不是知识，而是信息，这是极有害的，提出在信息社会如何追求知识而不是片面追求信息，应该成为知识人的重要责任。知识人，特别是人文知识人，有责任站在人文的立场之上，将数字的根本奥妙展示出来，形成清晰的理性的自觉的知识系统，不再淹没在信息之流中，并服务于一个新的美好的人类社会的建构。

於兴中教授的三重忧思及数字素养观发人深思。我进一步联想到，百多来的中国学人走过的思想道路似乎可以由此获得一个启示。在晚清张之洞的时代有所谓“三千年未有之大变局”的说法，在很长一个时期主宰着中国学人的思绪。近年来又有所有“百年来未有之变局”的说法。细究之，前者关涉中国文明的现代转进，后者则关乎中国文明的主体性建构。合而观之则是古今中西之辩，嵌在其中的问题意识乃是中国文明何处去。而於兴中教授是书则远超前此两大格局，因其关涉人类文明何去何从的问题，故庶可称之为“十万年未有之巨大变局”。以此视角看於兴中教授《数字素养》一书，则中国学人之致思其重要性则更显然矣，而果真当代中国思想能完成“数字转向”，当代中国学术思想必将境界大开，寄生于此前两大变局境域之上的许多话题及论题必将顿然失去其进一步讨论与言说的意义与价值。诚如此，则於兴中教授之功德大矣。

魏敦友

匆草于武汉沙湖之畔，湖北大学4-2-601

2023-04-09

附记：本文乃应上海《解放日报》之邀而作，谨在此对澳门大学於兴中教授和上海人民出版社冯静博士深表谢意！2023-04-14