近日浙江某高校教师因其所负责的三门课程的卷面不合格率都在30%以上，面对质疑他为此写出说明，该老师在文章中列举了一道他曾出过的填空题以评价试卷的难度：“《孔雀东南飞》的主人公分别是谁和谁？”并说这道题的错误率在50%以上。由此引发社会的广泛热议。热议的核心在于在人工智能时代，对于那些可以快速检索到的知识，我们是否还需要像传统模式那样让学生背下那些知识？换言之，现在的考试应该考什么？

即便在人工智能赋能各行业成为时尚的当下，教育从本质、结构到机制并没有发生根本性的改变，人工智能只是作为学习的辅助工具在起作用，完全不能替代个体的主动学习。为此，我们不妨把教育的结构拆解开来，看看人工智能到底在哪个环节起作用？以及起到多大的作用。通常教育的结构分为三部分：筛选、培养与输出，在这个链条上，教育的主要功能是培养学生的能力，把能力再分解为：通过教育的规训作用使学生们形成特定的认知模式、习性/行为模式和初步世界观框架的搭建，以及在固定的时间内对既定的培养目标进行测评，这个环节就是种类繁多的各种考试。至此，我们大体了解教育的完整流程，那么在这几个环节中，人工智能又是在哪个环节发挥作用的呢？显然，人工智能的最大功用只是方便了知识的获取以致由人工智能提供的新知，还可以延伸到培养的末端，即知识测评，在其他环节，人工智能的作用有限，从这个意义上说，人工智能至少在当下还没有颠覆传统教育范式。

因此，回到那位老师的问题，今天的我们还是要辛苦记下《孔雀东南飞》的主角是谁，虽然人工智能/网络里可以轻易找到这些知识，但这并不意味着你头脑中就有。更何况学习的过程还是一个人塑造个体认知图式的过程，如果没有这些点滴知识的缓慢学习过程，个体认知图式的形成过程将是没有根基的，我们所拥有的诸多宝贵人生经验都是亲历亲为所获得的，由此各种判断以及同理心才会被塑造与激活。就如同你看过无数爱情书也无法与真实的爱情相比一样。如果知识不能内化并嵌入到我们的认知图式中，我们如何做出各种价值判断。

澳大利亚哲学家杰克逊曾提出一个著名的思想实验“玛丽屋”，那个实验说明，即便玛丽知道了无数关于红色的光学知识与生理学知识，她也无法与看到一个真实的西红柿时对于红色的理解相比，这在哲学上被称作“解释鸿沟”，其实质就是她缺乏对于红色的感受性，从这个意义上说，从知道到理解之间存在遥远的距离，笔者多年前曾把培根的名言“知识就是力量”改为“理解才是力量”，这一点在人工智能时代显得愈发重要，在我们获得知识的工具与渠道越来越便捷与多样化的当下，也并未见有多少大师与重大成果横空出世，我们曾熟悉的传统学习模式被世人认为落伍了，其实不然，这种认知偏差反而导致我们离真正理解知识越来越遥远了，甚至对那些常识知识产生不屑之情，更有甚者，认为传统教育会扼杀人的创造性，其实科学史上的无数案例都会驳倒这些偏见，引发科学革命的那些大师们都是传统教育的产物，反而是新式教育的当下却很少再出现大师。

在这种时代背景下，我们会产生对于人工智能系统的依赖与上瘾，久而久之形成群体的认知路径依赖，这种依赖不可避免地导致群体的认知退化，我们很容易接受人工智能提供的答案，而不愿意亲自费力去思考与探索，久而久之人类行为所积累的数据信息会出现质量快速下滑的趋势，由于得不到高质量数据的大量训练，在低质量数据环境中运行的人工智能将出现功能退化现象，这种退化又对依赖者产生反噬作用，从而在人类与人工智能之间出现了一种双重无限退化的循环。

这个现象很好理解，众所周知，以大语言模型为代表的生成式人工智能本着大力出奇迹的原则，围绕着数据、算法与算力这三个维度开启技术迭代的进化之旅，如果数据质量持续走低，再优秀的算法以及更强大的算力加持，也不会让人工智能呈现明显的进步。2023年3月美国语言学家乔姆斯基在《纽约时报》上发表了题为《ChatGPT的虚假承诺》的文章中指出，人工智能和人类在思考方式、学习语言与生成解释的能力，以及道德思考方面有着极大的差异，并提醒读者如果ChatGPT式机器学习程序继续主导人工智能领域，那么人类的科学水平以及道德标准都可能因此降低。

我们并不是要否认人工智能对整个社会所具有的潜在深远影响，只是想指出目前人工智能的作用被严重夸大了，这对于整个社会的有序运行与健康发展是不利的。人类已经经历过三次工业革命，每一次都给人类社会的面貌带来了巨大的改变，但是那些改变仅限于物理层面，按照德国技术社会学家阿诺德?盖伦的说法，技术变革经历三个阶段：首先是工具阶段，其次，机器阶段，第三阶段是自动机阶段，这一阶段主体的智力投入成为不必要的了。而我们目前正在经历的人工智能革命，则要使人的思考能力也成为不必要的，这才是人们对这次技术革命带有喜忧参半情感的关键原因所在。近日有专家表示，传统概念中的大学可能将“不复存在”，越来越多的人选择通过网络大学来获得知识。这种技术乐观主义有些过于自负了，充其量少数比较成熟的理工科课程可以采用这个模式，而大多数人文社科的课程基本不适合，即便强行推进效果也不一定乐观。试想一门课程就由全世界水平最高的人在网上来上，那种人类思考的多样性与差异性也就随之消失了，这对于人类的未来到底是福还是祸？对此，笔者是不能完全认同的，疫情期间上过网课的老师与同学们对此都深有体会。笔者不否认人工智能会给当下的教育行业带来很多变化，但是，如果教育的基本功能结构没有发生改变，那么教育的数字化转型就是有边界的。毕竟人工智能只是手段而不是目的，教育的一项重要功能就是培养学生的健全人格与世界观，而这一点人工智能是远远做不到的。

作者单位：上海交通大学科学史与科学文化研究院

【跋】这篇小文章是前几日应科学报计老师之邀而写，现发在《中国科学报》2024-8-27日A3版，合作愉快，这是原稿，是为记！

2024-8-27于南方临屏涂鸦