项目：本文系国家社会科学基金西部项目“儒学义利之辨的多向度展开对新时代社会道德建设的启示研究”（19XKS020）、国家社会科学基金重大项目“创新实践与21世纪马克思主义哲学形态研究”（20&ZD025）、中国社会科学院青年科研启动项目“中国共产党构建人民民主话语的历程与启示研究”（2023YQNQD044）的阶段性成果。
［摘要］人工智能作为数字时代的核心技术，其为意识形态治理提供了新方法、新平台。在人工智能多维嵌入的影响下，当前意识形态治理效能显著提升。但是，人工智能的广泛应用也带来了诸多意识形态治理困境，体现为：侵犯用户隐私造成人的意识主体性被破坏；算法推荐固化导致意识形态传播“去中心化”；资本垄断话语产生意识形态被操控的风险；政治参与受限影响意识形态话语充分表达。因此，为了有效应对其风险挑战，应坚持防治并进，加强隐私保护；优化算法，推动人工智能算法向上向善；对资本进行规制，促进意识形态治理健康发展；激发数字红利，促进民众意识形态话语表达。
［关键词］人工智能 意识形态治理 技术利维坦
1956年，美国达特茅斯学院数学系助理教授约翰·麦卡锡（John McCarthy）等人发起了“达特茅斯会议”，“人工智能”（artificial intelligence）这一概念第一次出现在人类视野中。在此之后，人工智能从理论探讨阶段进入科学实验阶段，再到当前大规模商业化应用阶段，事实上已经成为当前科技发展的核心力量。从具体应用场域看，人工智能呈现多维嵌入特点，特别是在意识形态领域，“人工智能技术的特性为其操控意识形态提供了有利条件”，甚至有学者认为人工智能本身就是“‘非政治化’的意识形态”。随着科技的快速发展，人工智能毫无争议地成为全方位影响人类生活甚至是支配人的强大力量，网络已经成为意识形态领域争夺的新战场。习近平总书记要求“重视运用人工智能、互联网、大数据等现代信息技术手段提升治理能力和治理现代化水平”。值得注意的是，人工智能技术兼具创新性与破坏性的双重特点，这种“双刃剑”的技术特点在为意识形态工作带来高效、精准等便捷的同时，也带来了一系列治理困境与现实挑战。准确把握人工智能技术与意识形态治理之间的内在关联，不仅是一个重大的理论问题，同时也是一项紧迫的现实议题。
一、时代契机：人工智能赋能意识形态治理的战略机遇
人工智能技术对意识形态工作的深刻影响乃至重塑，已成为不可争辩的事实。“当今的那种占主导地位的，并把科学变成偶像，因而变得更加脆弱的隐形意识形态，比之旧式的意识形态更加难以抗拒，范围更为广泛”。随着人工智能的快速发展，这一影响将会持续深化，并为意识形态治理带来全新的战略机遇。
（一）治理技术支持：人工智能提供意识形态治理新方法
人工智能以技术工具方式嵌入意识形态治理，是其广泛应用性和超强渗透性的最重要体现。传统意识形态传播途径单一、效率低下，单向线性传播方式无法及时获取受众的信息反馈，受众只能被动接收信息，个性化需求往往不被考虑或技术上无法实现，这些问题严重限制了意识形态治理的实效性与针对性。21世纪以来，互联网技术快速发展，“网络平台已然成为信息交流的主场域，‘以用户为中心’的多对多传播方式迅速普及，彻底颠覆了原有的时空壁垒”。人工智能通过算法技术的精准信息投放，建立起“用户画像”。信息接收者虽然面对海量的信息数据，但是借助智能推送、熟人网络以及价值偏好往往能够获取更加精准化的信息。
在网络舆情引导能力方面，大数据及人工智能技术为其提供了强大的技术支撑。当前我国网民规模已超过10亿，每当出现突发事件，相当数量的网友就会通过互联网平台关注事态进展。突发事件往往伴随着谣言或片面真相一起出现，加强网络舆情管理与引导成为一项艰巨任务。人工智能技术可以实现“全天候全方位感知网络安全态势”，利用后台数据实时研判网络舆情走向，“促使社会舆情处理从传统的‘灭火式’管理走向‘防火式’治理”，及时引导网民接收正确信息、认知事件真相，不断拓展社会舆情治理领域。
在意识形态呈现方式方面，人工智能技术突破传统的以文字、图片、音频、动画等形式的单一呈现方式，利用VR/AR/MR技术模拟三维“沉浸式”体验，这一技术吸引了众多青年人参与到主流意识形态宣传中来。如2015年“9·3大阅兵”中，《人民日报》采用VR技术全景全方位展示了盛大的阅兵场景，通过立体式、全景式参与，受众的民族自信心、自豪感得到极大激发。在此之后，包括党的十九大、全国两会等一系列重大事件均采用了人工智能技术作为新的呈现方式，为新时代党的主流话语有效传播提供了坚实的技术支撑。
（二）战略目标契合：人工智能成为意识形态治理新平台
进入21世纪以来，中国的人工智能技术在政策推动和战略布局下走上了快速发展轨道。2017年，国务院发布了《新一代人工智能发展规划》，该年被称为“中国人工智能元年”。《规划》从顶层设计与政策环境层面，明确了我国人工智能发展的战略目标，提出抢抓人工智能发展的重大战略机遇，实现以先发优势促进创新型国家和世界科技强国建设目标。党的十九大报告提出“推动互联网、大数据、人工智能和实体经济深度融合”“善于运用互联网技术和信息化手段开展工作”“提高社会治理社会化、法治化、智能化、专业化水平”等重大战略目标。2017年年底，国家工业和信息化部发布《促进新一代人工智能产业发展三年行动计划（2018年-2020年）》，指出要推动八大类智能产品的规模化发展，并在2020年达到带有数据标准的行业发展节点。2018年，相关部门和研究机构又陆续发布了一系列重大报告和研究成果。人工智能已经从一种新兴的技术手段上升为重大的国家战略，随着人工智能技术与社会实用性的有效结合，其在推动国家治理现代化特别是意识形态安全治理当中发挥着越来越重要的作用。
当前互联网已成为舆论斗争的主战场，我们能否顶得住、打得赢，直接关系我国意识形态安全和政权安全。意识形态工作作为一项极端重要的工作，智能化技术手段能够为意识形态工作提供工具、方法与数据，进而为全面建设社会主义现代化国家增添助力，两者的结合能够为新时代意识形态话语权塑造，增强主流意识形态及价值认同的引领力、感染力和凝聚力提供重大的战略机遇。
（三）治理效能跃升：人工智能提促意识形态治理新效果
人工智能推动国家治理现代化的最大特点表现在“智”与“能”上。其一，人工智能推动意识形态治理现代化，突出表现在人工智能利用大数据技术获取意识形态治理的客观数据，为治理策略的选择提供决策参考，进而有效防止由于缺乏客观依据而导致的随意性与主观性政策抉择。其二，人工智能推动意识形态治理高效化，这是人工智能技术的一大特点也是其巨大优势。以网络舆情治理为例，2021年5月22日，在全国人民深切哀悼袁隆平逝世时，出现一批别有用心者在微博、微信群等平台发布侮辱袁隆平院士的言论。通过人工智能技术，公安机关当日即以其“歪曲、丑化、亵渎、否定英雄烈士事迹和精神”查封了64个账号，并对情节恶劣人员采取了刑事强制措施。网络空间并非法外之地，人工智能技术通过大数据和算法，能够以最高的效率锁定危害社会稳定的团体和个人，在维护意识形态安全的同时有效促进社会稳定。其三，人工智能推动意识形态治理智慧化。人工智能能够“将复杂的社会运行体系映射在多维、动态的数据体系之中，实现对社会运行规律、社会偏好（诉求）变化趋势及规律、政府回应机制及效果差异等实时、数量化、可视化的观测”，在如此庞杂的数据面前，仅仅依靠人的智力和能力几乎无法完成，但是人工智能技术却可以在短时间内得出更加准确的结论，同时能够根据数据模型作出前瞻性判断，进而推动意识形态由传统型治理向智慧型治理的转变。
二、技术利维坦：人工智能赋能意识形态治理的风险挑战
人工智能作为百年来最具影响力和革命性的科技进步成果，它“描述了新的社会创造物和广泛的机器介入的社会状态”，在很大程度上改变了传统的经济、政治、文化、社会等各类关系，“一些在人们看来习以为常、司空见惯的观念、价值、规则、信条、机制面临着空前的危机和困境”。人工智能作为“技术利维坦”，使得人类面临前所未有的意识形态治理挑战。
（一）隐私困境：侵犯用户隐私造成人的意识主体性被破坏
公民隐私权是受到法律保护的一项基本人格权利，但是在人工智能时代，用户隐私的保护问题越来越受到关注。人工智能时代，通过各种各样的数据收集器、移动电子设备以及智能软件平台，用户的隐私无所逃遁，全部如“透明人”“透明人”是指通过大数据的对比和信息还原，每一个人体在一系列时间段的所有行为都可以在事后还原出来，由此每个人的生活状态都将在很大程度上成为透明的。一般真实无遗地暴露在数据收集者手中。大数据、云计算等技术的应用能够轻松对一系列看似杂乱无章的信息进行分析，掌握用户的生活习惯、出行轨迹、财务状况，甚至个人的饮食特点、脾气秉性、兴趣爱好等自己都没有意识到的特点。在这种背景下，“智能技术将成为重要的权力元素，无论是政府还是公司、社会组织，只要掌握了大量的数据等智能技术，其权力就会得到强化”。基于“权力强化”的视角，一方面，科技公司会利用智能机器“在互联网上一刻不停、分秒必争地搜集、整理着私人数据”；另一方面，非法分子在利益面前铤而走险，利用系统漏洞或其他方式肆意窃取、买卖个人数据。个人信息的泄露已经成为大数据治理的一项难题，相当数量的电信诈骗案件的发生，即是由于用户私密信息被泄露而引发，以至于打击网络诈骗成为一项棘手的工作。
人工智能时代，保护个人隐私面临困难，人的意识主体性被破坏，这给当前意识形态安全带来巨大隐患。
（二）信息茧房：算法推荐固化导致意识形态传播“去中心化”
“信息茧房”指在信息领域，“公众只注意自己选择的东西和使自己愉悦的东西。久而久之，会将自己束缚于蚕茧一般的‘茧房’中”。当公众的价值偏好被固化，主流意识形态传播呈现“去中心化”，这对于思想引领将会产生一系列冲击。人工智能技术的发展在一定程度上导致公众沉溺于虚拟空间的自我封闭，媒体平台和资讯终端为了获取更高的点击量，通常采纳“算法+推荐”模式，这种技术手段会将用户的兴趣点锁定在特定的关注领域，信息接收领域的窄化会破坏主流意识形态传播的全面性和广泛性。人一旦陷入“信息茧房”之中，所接收的信息往往具有明显指向性甚至极端性，假设人们对主流意识形态缺乏明确的倾向性，算法会自动过滤此类信息，长此以往，个人会慢慢远离主流意识形态内容。
当前自媒体、短视频等新兴传播平台火爆互联网，与主流意识形态的严肃性相比，互联网充斥着为了迎合受众而发布的各类娱乐性、低俗化、戏谑化的非主流意识形态信息，不论是内容的生动性还是呈现方式的灵活性都要远超前者。受众在选择信息时，往往更愿意接触“短平快”的碎片化信息，对主流意识形态这类逻辑性强、整体观念丰富的信息，缺乏持续性关注的耐心和兴趣。当同类型信息在不同平台，以不同方式经年累月地重复出现和强调时，接收者在潜移默化中会将其认为是事实的全部，进而导致主流意识形态传播效果大打折扣。“优势意见占明显的主导地位，其他的意见从公共图景中完全消失，并且‘缄口不言’”。如果主流意识形态成为算法推荐模式下的弱势方，便极有可能造成“沉默的螺旋”效应，这不仅会使个人长期游离于主流意识形态空间之外，个体思想的独立性也将在海量的无效垃圾信息裹挟下被冲击甚至被摧毁，“个人极易沉浸在同一性和均质性信息的包围中，陷入相对封闭的社交链条”，从而造成主流意识形态的权威性被削弱乃至被忽略。
（三）资本逻辑：资本垄断话语产生意识形态被操控的风险
随着社会的发展和科学技术的进步，国家治理面临的复杂性和风险性不断增加，而国家和政府同时面临技术的有限性和数据资源的匮乏性，难以提供完备的治理方案。市场天然具有的竞争性使其成为技术创新的主体，政府对其重视程度日益增加。当政府对市场创新主体和科技公司的依赖性越来越强，便会授予其更多的数据权限，虽然政府仍处于权力结构的中心，但已经出现权力去中心化趋势，政府的权威性被削弱。科技企业在技术上的巨大优势会直接造成其在意识形态话语权上的垄断地位，当企业所占有的数据和技术远超国家时，甚至会导致“权势的天平从国家向企业倾斜”。按照资本逻辑推导演绎，随着资本权力愈加强势，主流意识形态的地位会受到挑战，甚至会出现“失声”的现象。
从全球人工智能发展实践看，绝大多数具有突破意义的成果均来自高科技巨头公司。企业在资本逻辑的驱使下，为了获得更多的用户和点击量，必然会挖掘一些新异内容，这可能导致主流意识形态宣传边缘化的危机。人工智能主导的平台在信息推送时尊奉“流量为王”原则，“金钱不断塑造着政治”，公众通过平台接收消息，却又陷入资本操控下的算法困境，难以自拔并越陷越深。自媒体时代人人都可以成为信息发布者，假新闻、谣言屡禁不止。根据人工智能的算法原则以及假新闻的传播速率特点，假新闻通常会呈现出“病毒式传播”状态。同时，作为人工智能的开发者，企业通常更多考虑自身利益，而意识形态宣传以公益性为目标，两者在主体利益的选择上存在冲突。智能技术控制者掌握技术的目的往往是服务于资本，因此，“资本、权力和技术的控制者利用人工智能操控意识形态”成为一种必然的结果。
（四）数字鸿沟：政治参与受限影响意识形态话语充分表达
“数字鸿沟”是指“信息通信技术在普及和使用中的不平衡现象”，这种差别既表现在不同国家之间，也表现在不同区域和不同人群之间。人工智能时代，技术及设备上的巨大差距会加剧数字鸿沟，这不仅会严重影响公民政治参与的实际效果，而且对意识形态话语权的建构和民主政治的发展造成巨大冲击。
在当前政治参与和政治表达场域，互联网已经成为更为主要的平台。但是由于基层群众普遍受教育程度和收入水平偏低，智能信息技术的使用能力相对较差，真实利益诉求表达受到技术手段的制约。尤其在欠发达地区，不少人不了解网络政治参与渠道，对国家政策和自身合法权益缺乏有效认知。这些不善于运用现代技术表达政治态度的人，往往会被排斥在政治参与之外，逐渐沦为“沉默的大多数”，其政治信任感和政治参与度均会降低。
三、防治并进：人工智能赋能意识形态治理的路径选择
在当前世界百年未有之大变局的时代背景下，意识形态工作要变被动为主动，推动人工智能成为意识形态治理的重要驱动力量。人类正面对着一个全新的、蓬勃发展的、机遇与挑战并存的人工智能时代，“这意味着国家治理体系和治理能力务必实现从传统治理到互联网治理，再到AI治理的跨级飞跃”。面对不断涌现的新问题、新挑战，须以防治并进的理念回应各方利益诉求与呼声，有效应对人工智能时代意识形态领域的多重挑战。
（一）隐私保护：技术治理下的用户隐私实现
首先，以技术手段更新隐私保护策略和路径。可以采取的方式包括：坚持以用户为中心，提供全生命周期的用户隐私保护机制；重视隐私增强技术，包括“编码、加密、假名和匿名、防火墙、匿名通信技术等”；引入隐私影响评估制度，利用技术工具精准识别系统中存在的隐私风险，重视隐私被侵犯的预防机制而非被动救济的技术是未来人工智能发展的方向。其次，以市场原则应对隐私困境。用户个人信息是一种特殊商品，具有明显的财产权属性。当前用户隐私无法得到有效保护的重要原因是相关企业获得用户个人信息太容易，甚至不需要付出什么代价。因此，应考虑发挥市场作为规制隐私风险的重要主体的作用，探索建立个人信息的有偿使用机制。如国外有学者提出仿照证券交易所的交易方式在全国范围内建立个人信息交易市场。但仍需注意的是，个人信息是一种特殊且敏感的商品，在确定交易价格、形式、原则的基础上，必须加强政府对交易的监管，确保其在合法、规范、有序的范围内进行。最后，完善隐私保护的法律体系建设。当前我国虽然通过了《数据安全法》和《个人信息保护法》，但隐私保护的法律体系仍不健全，应以法律手段明确赋予用户数据的被遗忘权，即彻底删除个人的部分或全部购物信息、聊天记录、历史搜索、出行信息等数据信息的权利。对于不同的数据信息要采取分层保护原则，对于诸如宗教信仰、性取向、犯罪记录等敏感信息，应采取禁止被人工智能收集的做法，对数据控制者的违法行为须采取具有强制性的处罚手段，强化法律责任。
（二）算法优化：推动人工智能算法向上向善
人工智能引发的一系列新情况中，算法歧视及算法固化是比较重大的问题。事实上，“算法的社会本质就是一种权力”。只有有效推动算法的向上向善，才能将技术创造与思想引领紧密结合起来，实现人工智能技术嵌入主流意识形态治理的话语体系构建之中，进而牢牢掌握意识形态话语权。
第一，树立正确的技术发展观。当技术伦理与人文精神两者出现裂缝时，技术异化必然产生。当前人工智能技术异化最突出的表现在于它“越来越远离人类的控制”，这与习近平总书记所强调的科技要“坚持面向世界科技前沿、面向经济主战场、面向国家重大需求、面向人民生命健康”的价值导向相背离。在意识形态治理领域，人工智能技术的发展与运用要坚持“为了人”这一根本目标不动摇。推动以技术规制算法、以价值引领算法的向善算法原则的形成，做到人文性与时代性、伦理性与技术性的统一，让技术成为促进社会进步和人类发展的助手。第二，利用算法推动主流意识形态的传播。要利用算法精准捕捉用户兴趣点，通过分析研判网民的关注量，把握舆论热点，将网络即时的热点动态引入话语内容生产，“打造兼具实效性和思想性的话语内容”，采取内容新颖、形式鲜活、传播高效的方式将主流意识形态推广到互联网不同场域，找准主流意识形态话语生产的方向和重点，采取分众化的传播理念，确定层次分明的宣传引领策略，做到有的放矢，从而提高思想政治引领的实效性。第三，推动算法设计不断优化，以向善的算法理念规避算法固化。提高算法透明度，算法平台定期（或应用户申请）提供用户的精准画像或标签，使用户能够较为清晰地对自己的数据隐私有所了解。进一步扩大算法推荐范畴，在实现个性化信息推送的同时，为了避免信息传播特别是主流意识形态传播的窄化问题，要加强多元化信息推送，使两者实现动态平衡。
（三）资本规制：促进意识形态治理健康发展
科技企业作为推动人工智能技术发展的主体力量，凭借着人才和技术的优势在技术规则制定方面拥有远超其他组织的强势话语权。因此，科技企业在推动技术向善层面具有不可推卸的责任，只有实现对资本的有效规制，才能促进意识形态治理的健康发展。
第一，加强意识形态领域的监管。国家和政府要强化对资本的规制，对于核心领域的技术要拥有决定权，更为重要的是建立预防机制，对于潜在的意识形态安全风险及早作出研判和监管。第二，企业应树立正确的技术发展价值取向。“技术并不是中立的、价值无涉的，特别是当公共权力与技术相结合时会产生深刻的政治影响”，而人与人工智能出现矛盾的实质是人工智能的使用在不同主体之间存在着对技术价值认知的明显差别。因此，科技企业在发展技术时，应注重“实现工具理性与价值理性的辩证统一”，处理好企业自身利益与社会公共利益、短期利益与长远利益的关系。第三，以技术力量裁制技术漏洞与缺陷。技术在发展过程中不可避免地会产生一些新问题，因此，以“向善的技术裁制不良的技术”是重要的治理措施。如通过信息加密技术、匿名化技术等防止公众信息被后台肆意收集，强化溯源技术的实现，对涉案人员进行有效查处。对用户所遭受的算法歧视和算法独裁予以技术提醒，杜绝“大数据杀熟”等违反技术伦理的现象发生。第四，加强人工智能从业人员的伦理规范。打造一支高素质的人工智能人才队伍是新时代推动意识形态工作的题中之义，科技企业要加强科技人才的技术向善伦理价值塑造，以促进人类发展、保护弱势群体、和平利用技术为最终旨趣，“通过宣传教育引导、实践养成、制度保障等途径把AI道德信念、信仰、理想内化为从业人员灵魂深处的价值准则，确保他们有一颗维护公正的‘良心’”，为主流意识形态的宣传引领提供坚实的人才保障。
（四）数字红利：激发民众意识形态话语表达
在人工智能快速发展的时代，“数字鸿沟”转化为“数字红利”是有效激发民众政治参与和强化民众意识形态伦理责任的关键所在，对促进国家意识形态领域的健康发展具有重要意义。
首先，提高民众利用互联网进行政治参与的能力、意识和积极性。政府要加强对公民的网络技能培训与引导，通过提高其网络政治参与能力，强化政治认同感和政治信任感。同时要在全民范围内营造良好的学习氛围，通过丰富知识储备和提高意识形态判断能力来激活其维护意识形态安全的责任意识，自觉遵守互联网使用基本规则，形成科学的政治观念，自觉抵制网络暴力，形成网络空间的慎独意识，让人工智能这一“双刃剑”充分发挥其积极方面，释放有利于促进政治参与的数字红利。其次，利用数字技术加强对青少年主流意识形态教育。意识形态教育是潜移默化的长期过程，作为承载着重大历史使命的青年一代，要自觉加强主流意识形态的学习，学校、家庭和社会深入探讨行之有效的协同育人方法和机制。要掌握青少年教育的内在规律和特点，大力发展教育技术学，利用人工智能技术、虚拟现实、智慧教学等教法上的互动性优势，引导青少年培养向上向善的思想品德。最后，主流媒体做好真相传播、价值引领。当前意识形态治理中一项重大的挑战在于，假新闻、政治谣言、片面真相以及错误思潮不断出现，主流媒体应基于算法向善技术理念的引导，“用主流价值导向驾驭‘算法’”，及时向公众发布最新的事件发展动态以及民众最关心的热点问题。在新冠肺炎疫情期间，人们通过“云直播”的方式观看了火神山和雷神山医院的实时建设，充分感受到社会主义制度集中力量办大事的优越性，无形中接受了一场充满正能量的爱国主义教育，这是技术为意识形态治理提供支撑的生动实践。同时，主流媒体要通过展示不同的思考和观察问题视角，引导受众过理性、审慎、独立的思想生活，只有这样才能真正为国家治理的长治久安奠定坚实的思想基础。
总之，一个人工智能蓬勃发展的崭新时代正向我们走来，人工智能是一把双刃剑，它在给我们带来意识形态宣传种种便捷的同时，也带来了巨大的治理挑战。我们要坚持“未雨绸缪、防患未然”的发展理念，科学看待人工智能技术的发展前景。在这一背景之下，顺应技术发展规律，深入研究人工智能赋能意识形态治理的现实境遇并在此基础上寻求突破之道，制定合理的规则对人工智能的发展加以引导，是未来强化主流意识形态宣传的重要方向。只有如此，才能为全面建成社会主义现代化强国提供坚实的技术支撑，为中国在世界人工智能快速发展的背景下争取更多宝贵的发展机遇。
