摘要：今天,算法已经渗透到社会的各方面,对人的影响也不断深化。算法社会中的人,被全程、全息数据化,算法也推动了人的标签化、评分制,这些都对人们的思维、行为产生影响。算法作为一种中介,构建了一种数据化界面,重塑了人们对世界的认知方式,同时算法也以匹配、调节与控制等方式建构了各种对象间的关系,算法的权力也因此不断增加。算法对社会关系的另一种影响,是强化既有共同体的边界,或推动新的共同体的形成,因此,算法对社会结构的影响也会走向深层。
关键词：算法; 算法社会; 人的数据化; 算法中介; 算法权力; 共同体
在计算机专家看来，算法是“一种有限、确定、有效并适合用计算机程序来实现的解决问题的方法，是计算机科学的基础”。[1]通俗地说，今天的算法可以看作是用计算机程序实现的、基于数据分析、面向特定目标的一套指令或方案。算法即是规则，它不仅确立了机器所试图实现的目标，同时也指出了实现目标的路径与方法[2]。
算法与数据的分析、加工技术相关，也与数据采集技术相关。近些年社会化媒体、移动终端、大数据、云计算、人工智能、物联网等一系列技术的发展，从不同方向推动了算法的应用，也因此，算法这个本来有些深奥的专业名词频频出现在我们的生活中，算法不仅改变着人们的生活，形塑着人们的行为，也将引发更多变革。
一、算法渗透的社会
今天的社会，算法正日益渗透社会生活的各个方面。在人们的信息获取中，推荐算法已成为信息过滤的一种重要手段，无论是商品信息的获取，还是新闻或知识性信息的获取。推荐算法对于人们认知的影响，也将进入深层。而人们在各种平台阅读的内容，很多是由算法驱动下的机器自动完成。算法正在成为信息环境建构的重要力量。
在人们的日常生活中，价格算法影响着人们购买商品的价位，导航算法、网约车平台算法和未来的自动驾驶汽车的算法影响着人们的出行，外卖平台算法在决定人们收到外卖的时效同时，也在控制着骑手们的劳动。一些婚恋网站，则用算法来进行姻缘匹配。
从经济角度看，算法推动了新经济模式的发展，特别是诸如共享经济这样的新经济模式，也改变着传统经济模式，进一步，有研究者提出了算法经济的概念，即将生产经验、逻辑和规则总结提炼后“固化”在代码上，使生产经营活动无须人工干预、自动执行的经济模式，其目标是通过算法的应用大幅改善供需匹配效率和交易成本。[3]
牛津大学教授阿里尔·扎拉奇等人在《算法的陷阱：超级平台、算法垄断与场景欺骗》一书中，也应用了算法经济的概念（algorithm-driven economy），虽然他们对于算法经济的界定与上文的定义不尽相同，但同样也是从算法的视角关注新经济及其影响。在书中，作者指出：通过精妙的计算机算法，互联网的兴起与普及的确在某种程度上深化了市场竞争并为民众带来了诸多便利与实惠，但这种由信息技术演进带来的市场经济模式的转变也导致了社会资源发生了不公正的再分配。[4]
无论是个体，还是机构，越来越多的认知与决策，是在算法的辅助甚至主导下完成。而通过算法来判断舆情态势、社会风险，也正在成为各类机构和管理部门常用手段。在法律界，甚至出现了用“风险评估工具”算法来确定罪犯刑期的做法，这种算法参考了数十年的量刑判例，结合了十几个参数，来评估被告在一定时期内重新犯罪的可能性。[5]
算法越来越多地左右着对个体的评价，影响着个体的社会形象，甚至影响着人们在社会中的位置及流动可能性。各种网络平台的评分机制，大多是基于数据与算法。新冠疫情期间启用的健康码，也是一种综合算法，它可以计算出人们是否具有病毒传播风险。人力资源部门可能利用算法来决定人员聘用、升迁，银行利用算法来决定贷款发放。数据、算法以及由此形成的评分，成为今天社会一种重要的评价思维。这种评价思维，也对人的行为产生了越来越大的调节作用。可以想象，算法也将成为个人的社会信用评价体系的重要基础。
除了个人的社会信用评价，算法还将全面进入社会治理体系，研究者期待，将社会治理具体规则融入人工智能算法模型，使智能设备“掌握”规则知识、并根据管理目标自动感知、自动识别、自动预测、自动判断与自动处置。[6]利用大数据、数据分析、人工智能和机器学习的可能性，围绕算法开发数据驱动的综合管理结构[7]。在实践层面，健康码的实施便是算法治理的一次重要实践，它意味着建立在数字城市性、算法化社会性、大数据主义这三大要素之上的算法治理，系统性地升级了面向人口的“安全技术”。[8]算法治理将一切可能的因素都变成了算法上可以控制的元素，并将各种可预知的风险降到了最低，从而最大限度地保障了共同体和国家的“安全”和“稳定”。但与此同时，数字政治下的算法治理不仅仅将活生生的生命变成了档案和数据，也变成了受算法掌控和支配的行动者（agents）。[9]
未来，随着物联网等技术的发展，数据采集维度更为多元，基于数据和相关算法进行的社会管理、社会控制也必将进一步深化，形成所谓的智慧社会。智慧社会可以基于各种信息采集、处理系统形成一种社会的“数字神经系统”，它能感知社会状态，将之与需求和动态反应模型相结合，并用得到的结果来校正系统。[10]这种感知、反馈与校正，离不开算法的支持。虽然有研究者认为智慧社会将推动传统的中央集权、信息非对称、交互不对等的社会管理结构向权利平等、信息对称、位置对等的创新社会管理结构的转变[11]，但另一方面，智慧社会的管理权力将向数据与算法的拥有者倾斜，新的权力不平衡甚至集权也可能会形成，在社会管理日益便利、高效的同时，个人权利的保障却可能变得更为困难。
无论我们是否愿意接受算法的统治，我们已经进入了一个随时可能被算法算计的社会。而算法的基础———人的数据化，也正在改变我们的生存与生活。
二、算法社会人的数据化、标签化与评分制
算法与数据、算力是人工智能共同的基础，算法离不开数据，因此，算法社会的前提是万物数据化，这也包括人的数据化。算法的广泛应用，更是强化了人的数据化。
在算法推荐中，无论是内容的推荐，还是电商产品的推荐，都需要描绘用户画像，也就是通过各种渠道收集的用户数据来建立用户模型，使其成为算法分析的对象。早期的数据主要是用户在各种平台提供的注册数据，以及在网络中发布的内容、浏览痕迹、购买记录等行为数据，但随着移动终端、智能物体的发展，身体的数据化，也开始变得普遍。身体的运动轨迹、身体状态等数据，也成为用户数据的重要构成部分。
未来算法和其他技术的发展，甚至有可能基于不同的场景和目标，建立用户的动态数字化映射模型。例如，通过人脸识别来辨识个体的身份，通过定位系统了解人的空间位置或轨迹变化，通过智能眼镜了解人的视线的移动及关注焦点以分析人在现实空间中的需求，通过人的心跳、分泌的汗液、脑电波等生理层面的数据来感知人的情绪变动，人的全息、全时数据化将成为可能。
全息、全时的数据化构建了人的一种“虚拟实体”，这不仅为网络服务提供更多的动态依据，更是成为了人的数字化生存的一种新形态。“虚拟实体”能更真实、直接地反映个体的身体状态、行为等现实化存在，人们的身体及现实行为与数据之间的对应关系变得更为直接，人们通过数据进行自我控制，特别是身体控制，也会更为普遍。
而社交媒体的普及，也在进一步推动人们以文字、图片、短视频和直播等各种形式进行媒介化表达，这种表达的结果同样也是数据，这些数据与虚拟实体一起，共同构成了个体的数据化生存。数据化的个体与他人的交往也是数据化的，基于数据的互动，体现着个体的存在感，也成为社交“表演”的一部分，影响着人的自我表达、自我认知与社会关系。
对个体来说，数据化生存，也带来了一种数字化的“人格”。有研究者将数字化人格定义为“通过个人信息的收集和处理勾画一个在网络空间的个人形象———即凭借数字化信息而建立起来的人格”。[12]也有研究者将其界定为基于算法对数据本体的个人先前行为轨迹进行数字化描摹并进行信用评级由此生成的数字化个人镜像，数字人格意在勾勒出数据本体在社会活动中的可信任程度。[7]虽然研究者对数字人格的关注重点有所不同，但从数字画像到数字人格的概念的变化，说明了人与数据关系从表层走向深层，数据成为人及人格的一个必不可少的组成部分，“我们被数据化，我们自身以及行动被记录下来，数据调节和塑造我们的行为。”[14]
学者蓝江指出，个体的数据化，也意味着生命的“档案化”，这意味着个体生命已经进入生命政治的治理装置之中，个体数据成为治理层面维系社会安全和运作的基本方式。同时也让每一个参与共同体和国家活动的个体，都必须按照这种可治理的方式来重新生产自身。[9,15]除了政治力量外，在商业领域，算法也在加剧对个体数据的利用与控制，“算法与商业资本结合形成监视资本主义，用户被嵌入数据生产链条，变成被算法支配调控的客体。”[16
数据可以通过外部力量对个体的作用，也会通过自我传播产生影响。
人类的“自我传播”（内向传播），是“主我”与“客我”之间的对话，有时它也需要一些外在的中介，例如日记和社交媒体，而今天包括传感器、可穿戴设备在内的智能物体成为了另一类重要的中介。智能物体甚至使得过去被认为是不可量化的精神层面的反应，如情绪与心理状态等被量化，这些数据也会作用于个体。借助各种外化的数据，自我传播也会成为精神自我与物质自我的一种对话，带来一种“反身性”运动。
后人类学者海勒认为：“反身性就是一种运动，经由这种运动，曾经被用来生成某个系统的东西，从一个变换的角度，被变成它所激发的那个系统的一部分。”[17]从控制论的角度看，这意味着“信息从系统流向观察者，但是反馈回路也可能回溯到观察者，将他们变成被观察的系统之一部分”。[17]作为观察者与被观察者一体、传者与受者一体的人，其自我传播就是一种反身性运动，是“行动的反身性”，即作为观念动物的主体拥有反过来针对自身并监控自身行动的能力。[19]而传感器的作用，是将过去人很难量化的一些状态变为数据，这使人对自身的观察与反身控制进入一个新的层面。
但也需要看到，这种基于数据的自我观察也并非完全是个人化的“反身运动”，某些时候，它会被公开并成为自我表达、社交互动的一种手段，例如，社交平台上人们晒出的自己的行走步数。出于表演、竞争等目的，人们往往要获得更“漂亮”的数据，并可能因此改变自己的行为。原来属于“精神自我”与“物质自我”的反身性对话，也会变成个人与他人、环境之间的一种互动。数据化在深化人的自我传播的同时，也推动了人与外界的互动。
当人们的身体不断映射为数据化的虚拟实体时，也会出现一种可能性，就是因为设备问题或数据采集、处理方法的不当，虚拟实体与实体之间会出现偏差甚至冲突。随之而来的问题是，“当数字身体与物理身体发生偏差，谁才是真实性的依据呢？……技术作为工具，是便捷了主体，还是捆绑了主体？”[20]这种人的实体与虚拟实体之间的冲突在未来显然不会罕见，由技术绑架主体的情形也会时有发生。
除了身体和日常行为的数据化外，劳动或工作过程及其评估的数据化，在今天也越来越常见，这也是对劳动者进行控制的一种重要手段。外卖骑手、网约车司机、数字平台的内容生产者，都是典型的代表。而除了这些群体外，各种群体都有可能被日益量化的评价机制中的数据所左右。
虽然数据化成为算法社会个体生存的基本形态，但并非所有人都能顺利地实现数据化。疫情期间，那些不能使用手机的人，就不能顺利获得其健康状态的数据，这也给他们的日常生活增加了很多障碍。这时，数据化也是兑换个人权利的必要资本。与此类似，个体要享受各种数字平台服务，都需要将自己进行某些维度的数据化，并将这些数据出让给平台。数据化在帮助个体获得服务、利益的同时，又导致了个人权益被侵犯、占用。
算法社会个体产生了无数的数据，这些数据甚至成为了平台的重要资源或资本，但人们并不完全拥有对自身的数据的自主权，无论是采集、保存还是扩散。很多时候，他们甚至完全无能为力。虽然在法律上对数字时代个人隐私权、被遗忘权及其他权利的讨论一直在持续，但是，在实践中，在个人数据保护方面，个体的弱势地位并未改变甚至每况愈下。
数据化的一个后续结果，是标签化，标签化往往也是算法应用的前提。对人、内容、产品等打上各种标签，通过标签进行匹配，这是推荐算法的常用思路之一。智能学习算法也往往要基于分类化的数据标记，也就是数据的标签化。
用户的标签化，也来源于用户给自己打的标签，很多社交平台都有标签的功能，用户通过几个标签来描绘自己的典型特征。在推荐算法的设计者看来，这样的标签作为由用户产生的元数据，能够反映用户的需求及其变化，而且标签系统所构建的“用户-资源-标签”之间的关系网络能够为个性化信息推荐提供十分有价值的基础数据。[21]
标签可能是算法的依据，也可能是算法的计算结果。健康码中的绿码（“未见异常”）就是典型的算法计算出来的标签，这个标签赋予人们在社会中畅通无阻的权利，如果被打上“红码”，则会寸步难行。算法计算后赋予人的标签，一方面描绘了某些个体特征，另一方面，也可能界定人们的社会属性或群体归属，这种标签也可能会固化人们的社会位置。
虽然标签常常是为算法服务的，但在算法鼓励人们自我标签化的环境下，人们也会开始更多用标签化方式来看待自己，标签某些时候会成为“人设”的标志，它们反过来也会影响到人们的行为。
在现实世界，将认识对象贴上标签以进行评价与站队的标签化思维也非常普遍，这也是心理学中所揭示的“便捷式判断”的体现。虽然标签化思维与算法中的标签化并不一样，但两者的共通之处在于复杂对象的简单化，它们对个体的两面夹击，也会使得人们的标签化意识变得普遍。
与标签化类似的，通过数据和算法对人进行评分，在算法社会也越来越盛行。算法社会对个体的评分主要有两种情形，一种是个体对个体的评分，一种是机构或组织对个体的评分。
个体间的评分，是互联网空间中关系建立的重要基础。在打破了现实边界的网络互动空间里，评分机制使人们可以快速地了解判断陌生的他人，使人们决定是否需要建立相应关系，在需要进行交易时，这种判断尤为重要。各种平台的评分机制，会使得人们在规则下有更多的自我约束，也有更多的行为参照，获得好的评分甚至也可能成为一种行为目标。人们对任何不利于自己的评分都会格外敏感，淘宝卖家为了获得好评、避免差评更是不遗余力。在网络的内容生产中，评分也是衡量影响力的重要指标，很多时候也与经济收益关联。
网络中个体间的评分，打破了过去单一的组织评价机制，每个个体都拥有了对他人进行评分的权力，每个个体得到的评价也来自于多元的主体。评分制也使得评价结果被明朗、量化，易于判断、比较。
而机构对个体的评分结果不仅是对人的状态、信用、能力的评定，也是权利、利益分配的基础。虽然在这类评分机制中机构仍然是主体，但算法在某些时候也会影响机构的判断。
研究者指出，评分机制代表了一种规则理性化的趋势，便利了现有法律（以及背后的公共权力）和平台私人权力的扩张和强制执行，同时也是对流动的社会规范进一步确认、固定化和再生产的过程。[22]这些流动的社会规范，往往是内嵌在算法中的。
评分制虽然有时过于简单，但它至少以可操作的方式推动了个体对公共规则的认识与遵从，也为人们的社会互动提供了一定的安全性保障。但是，当基于数据与算法的评分机制成为人的重要评价机制时，出于种种动因，在评分上造假、作弊也就难以避免，而对评分权力的争夺与垄断，也会成为一些机构或平台的目标。
三、作为中介的算法建构的认知与关系
算法不仅影响了人的生存，也影响了人与万物的关系，成为了人与万物间的一种中介。在智能化内容生产中，算法是人与认识对象的中介。在社交媒体中，当算法向人们推荐好友时，算法是人与人的中介。在信息平台，推荐算法是人与信息的中介。在电商平台，算法是人与商品的中介。而在数字劳动者那里，算法是供需关系、劳动关系的中介。在商业运营、社会管理中，算法更是成为多重关系的中介。
算法的中介作用，既表现为认知的建构，也表现为关系的建构。作为中介的算法，重塑了人对世界的认识。算法将世界的各种对象映射为一定的数据及模型，也就是在人与这些对象之间，提供了一个数据化的“界面”。不同的目标，不同的数据维度，不同的算法模型，会带来不同的界面。
机器通过算法自动创作的内容，无论是文字报道、视频，还是诗歌、绘画，本质上也是这样一种数据化界面。虽然在外观上看，这些作品与人生产的作品是相似的，甚至可能没有明显差异，但算法的内容生产原理与人的内容生产原理却截然不同。在算法那里，纷繁复杂的世界都被抽象为数据，机器完成的所有创作，都是数据与代码运算的结果。相比人以往认识世界、反映世界的方式，数据和算法可以提取人的感官不能捕捉的现实世界的某些维度，呈现世界的另一面，也可以计算出人凭经验难以发现的规律或事物的走向，甚至可以打破人类思维的套路。人工智能和大数据技术的进一步发展，还会进一步提高数据对于现实世界的刻画、分析与预测能力。
有学者指出，大数据开始构建事物的“数据表象”，使现实事物从感性存在转变为“数据存在”，事物之间的相关关系取代因果关系，海量数据“自动”呈现出某种规律。[23]而大数据的应用，离不开算法。
算法的流行，不仅推动了人们行为、身体的数据化，也在推动人的思维的数据化，也就是感性思维越来越多地让位于数据思维为主的表象思维。算法可以将模糊的对象变成明晰的数据，将不确定性变成确定性，这似乎给了人们更多的对世界的“把握感”与“安全感”。也因此，数据主义成为一些人的信条，也就是将数据和算法看作世界万物、人际关系的存在论基石，一切似乎都可以被归结为数据和算法的抉择与更替。[24]
但是，数据并不能反映事物的一切层面，表象直观的数据思维，虽然在某些方面打破了以往人的感性思维的局限，但也带来新的局限。数据看似客观，但数据的筛选、模型的建立仍是主观的。过度依靠数据思维，也有可能造成一种认知封闭，这种认知封闭首先体现在人们的思维认知被牢牢锁定在过去的数据痕迹之中。[23]而缺乏数据的驾驭能力，缺乏对数据质量的评估能力，更会使得人随时掉入数据的陷阱。
算法和机器带来的，毕竟只是一种数据化界面，这种界面既可能准确反映世界的某个维度或侧面，也可能出现失真。即使没有失真，如果我们任何时候都要透过这层界面去认识和反映世界，那么，人与万物之间的直接关系将被弱化，世界的很多维度被削弱因而变得“扁平”。人的主观观察、认知与描绘世界的能力也会下降，人的认识与决策，也会变成算法的认识与决策，并因此受到算法设计者或控制者的制约。如有学者指出，人的数字化与智能化的生存方式，将会使人与自然的关系发生逆转。在这个转变过程中，人类越来越生活在技术营造的环境中，认识关系将会变成权力关系。[26]
作为中介的算法也在建构事物间的关系，匹配、调节、控制是主要的关系模式。
算法进行的匹配，也就是筛选、计算出适合的关系并进行连接。算法之所以在今天日益普及，也是因为有些关系的发现、评估是靠人力不能完成的，例如在网约车平台实现的司机与乘客的实时匹配。算法在匹配、连接的同时，也有可能将个体的能量聚集起来，成为一种集体能量，这是共享经济平台正在实践的，这也是传统的人力方式难以实现的。
作为中介的算法，既有可能提供准确的匹配，也有可能提供无效或者错误的连接，这取决于算法模型的合理性、它所依据的数据的可靠性。另一方面，算法也可能会阻止一些连接的发生，例如，个性化内容推荐算法会过滤掉很多信息，使人与那些信息之间失去连接。信用评估算法会让一些人因为个人背景而失去获得工作或贷款的机会，这也是对连接的阻断，而在没有算法的年代，在这些个人背景不容易被他人掌握的情况下，情况可能会有所不同。虽然这些算法的设计目标是便利、效率、风险控制等，但某些时候它也是对个体自主权、选择权及自我突破机会的压制甚至剥夺。
为了通过算法建立起各种匹配，算法的设计者需要学习、研究现实社会的各种关系模式。在某种意义上，算法为我们提供了一个思考、评估现有的关系及其本质的机会，在此基础上，算法可能用自己的方式建构出社会关系，而这个过程是对社会关系进行重置的过程。[27]这种重置既有可能是重复、强化，也有可能是颠覆。但在目前的算法设计中，重复、强化更为常见。多数推荐算法是对人们以往关系或兴趣的强化，一些评估算法是对社会偏见与原有制度的强化。这并不意味着不存在颠覆可能，只是算法设计者在目前更可能沿用旧有的文化模式、思维框架。人工智能是人类思维的映像，人类在面对某些问题时采取的“范畴化倾向”的认知态度，也在人工智能的算法流程中体现出来。[28]这种重复中，也可能继承着人类原有的偏见、歧视等思维惯性。算法出现的偶然误判，也会在后续的算法中被不断继承、放大。
尽管算法提供的匹配方案未必是最优的，但人们对于算法的优劣难以做出评估，因为这样的评估往往要耗费人们大量时间，有时甚至是人力难以企及，而且当人们感受到算法带来的便利时，也会更多地顺从自己的惰性，依从甚至依赖算法的引导。
作为中介的算法，常常也会通过一定的机制调节与控制着各种对象及其相互关系。
例如，在内容平台，算法调节着生产者-内容-消费者几者之间的关系。信息推荐算法不仅影响着个人的信息获取，也会影响着整个平台的流量分布，而流量指标反过来也会影响到内容生产者的取向，算法和数据建立起了内容消费者与生产者之间的反馈回路，形成了内容平台的调节逻辑，也带来一种新的产消关系，这使得内容生产者可以更直观、直接地了解用户的需求与评价。但从另一方面看，当内容生产者被算法钳制时，他们对于内容的专业判断力也会受到抑制，一些时候也会屈从于算法计算出来的“民意”。算法也在影响人-信息环境-现实世界的关系，在算法调节下各类信息在平台中构建的“拟态环境”，控制着人们对现实世界的认知，但有时它们可能偏离现实环境，或者将人们局限于狭小的视野里。
在劳动平台，算法的调节、控制也很常见。有研究者发现，外卖平台系统将劳动过程精确到可计算的程度，实现了对骑手劳动的高度控制和精准预测，这很大程度上源于平台系统背后的数据、算法和模型的支持。[29]从用户角度来说，算法调节了外卖骑手资源的分配，用户可以更快地收到外卖，但对于骑手来说，这种调节则是对他们劳动的严格控制，在算法的算计下，他们的每一分钟时间的价值都被榨取。在这些平台，原本是由人完成的调节、控制，改由算法实施，虽然算法背后仍是人制定的规则，但算法可以完成实时、动态、精准调控，这是以往仅靠人力控制难以实现的。
在其他的算法经济的模式中，算法也在调节着供需、资源、价格等要素及关系，在提高用户的便利程度的同时，为生产者赚取更高的利润。
算法辅助的社会治理，也是试图通过算法来进行社会关系的动态管理与调节，发现与防范社会风险，同时，通过算法中内置的规则，来引导、控制人们的行为，使过去一些由管理机构强制进行的管理措施，内化为人的自我控制。
对个体来说，算法中介的控制，往往会通过评价机制来体现，“无论是商业力量还是国家机构，评分都代表了一种新型权力机制，这种机制和数据、算法紧密结合在一起，对数字时代社会主体行为产生重要影响。”[22]不管愿意或者不愿意，基于大数据的算法正在把所有社会成员的个人数据轨迹描摹为全景图谱，形成对每个人的信用评级。这种信用评级机制的存在意味着人们需要对自身是否存在违规行为而不断自我检查，并在数字算法的审查下“生产”自身的正常状态。[7]
作为中介的算法，既然影响着人们的认知与行为，也建构、调节、控制着各种关系，它也就会成为一种权力。算法权力包含算法本身的权力和数据的权力。[32]算法权力的主要作用方式有：通过对数据的占有、处理与结果输出，演化为资源、商品、财产、中介甚至社会建构力；算法直接变为行为规范，影响甚至控制个体的行为；算法辅助甚至代替公权力，做出具有法律效力的算法决策。[16]
今天的算法权力更多地掌握在那些拥有技术和数据的机构或个人手里，或许在一开始，他们中的多数并未意识到自己的权力有多大，影响有多深，他们更多地是遵循技术逻辑探寻技术的可能性，但当他们看到算法可以帮助自己实现盈利或其他目标时，他们就会有意强化这种权力。另外一方面，资本、政治等其他权力，在意识到算法的力量时，也会加强对其渗透或控制。而一旦算法进入到各种应用中，一些潜在的风险就会释放，权力过度或失范的问题也会不断暴露。
算法权力日益增强时，对算法权力的反思也在不断增加，算法偏见或歧视、算法黑箱、算法的反竞争效应、算法对个体的控制、算法对个人权利的侵犯等，是目前被讨论最多的问题，未来或许还会有更多问题涌现。将算法本身作为一种治理对象，规范其应用，也将是算法社会的一个长期目标。
对于算法权力的更深层影响，一种典型的担忧是：一旦权力从人类手中交给算法，人文主义议题就可能惨遭淘汰。[34]但将数据、算法与人文主义对立，认为算法一定是工具理性的结果，或许只是今天我们的思维惯性，面对一个无法避免的算法社会，我们更需要抛弃技术与人文之间非此即彼的思维，探求人文精神与技术理性和谐共存的可能性。
四、算法对共同体的强化或促成
算法不仅作为中介在实现一对一的关系匹配与连接，也在建构着群体关系，它对共同体的形成与维系的影响也开始日益受到关注。
对于健康码这样一种算法的产物，有研究者从共同体的角度进行了分析，吴冠军认为，健康码正是借助当代数字技术，具身化了“免疫”意义上的共同体边界，只有经过数字认证（“绿码”），个体才被允许进入人际交往的共同体。健康码以低成本高效率的方式，有力地强化了共同体的“免疫”能力。[8]与他类似，也有研究者指出，健康码这种被符号化和抽象化甚至扁平化的身体在特殊历史条件下成了社会共同体身份的准入证。[20]
健康码造就的共同体边界是疫情时期的产物，但算法对于人群的区隔，对于共同体维系的作用，并不只在这样一个特殊时期。
虽然共同体概念的最早提出者腾尼斯认为，共同体基本形式主要包括亲属（血缘共同体）、邻里（地缘共同体）、友谊（精神共同体）[37]，但是，今天人们谈及共同体时，可能会涉及各种具有共同特征或纽带的群体。共同体意味着相似人群的类聚与整个社会的群分。
像健康码一样，很多基于算法的评价系统，也在将人群进行区分，强化人们的群体归属，并赋予相应的标签，而在进行关系匹配或资源分配时，每个标签会对应着与相应群体适配的规则、套路，因此，算法和标签可能将人们框定在既有的群体中，在一定程度上也在加固不同共同体之间的“墙”。算法对某些共同体边界的维护，也是算法权力的一种表现。
除了维护某些共同体的边界、维系现有共同体外，算法还可能通过对相似人群的连接，推动共同体的形成。
在网络中，共同体的形成有各种纽带与模式，相对松散的社区、稳定的社群、圈子、族群都是共同体的表现形式[38]。其中，兴趣或其他文化上的共通性，对于共同体的形成意义尤为突出。而在共同兴趣的人群的发现、连接方面，算法的作用开始显现。
早期网络共同体的形成，是人们主动寻找相似人群、形成社区并持久互动的结果。而今天的算法可以通过对人们的行为的分析，将具有共同性的人群连接起来。例如，今天的个性化推荐平台，用户被打上的标签，就成为一种隐性的连接线索。表面上看，标签只是人与内容连接的依据，人与人之间没有直接互动，但标签也可以将人们之间隐藏的共通性挖掘出来，将具有共同属性、兴趣或行为特点的人连接在一起，在算法的支持下，以标签来区分人群甚至形成社区或社群成为可能。
在技术领域，已有不少研究者在探索如何通过算法发现网络社区，在这一领域的研究中，社区通常指由一组内部连接紧密、与外部连接稀疏的节点集合构成的结构[39]，而这种结构正是共同体的重要特征之一。研究者通过算法研究网络社区的构成、边界及其结构，特别是那些隐性社区，即包含于显式社区结构中的紧密子集，隐性社区在更深程度上反映了社会网络中隐含的真实关系，其结构往往也是动态的[40]。这些研究，主要是基于舆情分析、影响力分析、内容推荐、信息传播与网络营销应用等目标。
虽然目前的算法主要是发现已经存在的社区，但可以预期，在未来的新媒体产品特别是社交产品的开发与运营中，通过算法“计算”、促成某些共同体的思路也会出现。
算法的运用，也可能使得“同温层”更容易形成。在网络中，人们更愿意向与自己价值观、立场、态度等相似的人靠近，以此获得抱团取暖、相互支持的可能，人们就像气态分子一样在不断运动，直到寻找到适合自己的位置，而相似的气态分子向同一“高度”聚集，形成同温层效应。相比那些相对稳定的共同体，同温层是一种流动的、想象的心理共同体，在不同话题、不同时期，会有不同的同温层，而算法推荐有助于人们随时寻找到适合自己的同温层。
从共同体这个角度看，算法也会对社会结构产生深层影响，当然，它是持久维系既有的共同体，固化原有的社会结构，还是帮助人们突破现有圈层，发现、促成新的共同体，这同样取决于算法的设计思路。
显然，算法带来的影响，并不只是上述几方面，总体来看，数据与算法使得工商业时代以来的生产生活方式和社会价值观发生了深刻改变，同时也带来了全新的秩序风险。[41]虽然对于算法权力的反思、批判与制约是必要的，但我们也不能只是简单抵制算法，而是需要面对算法带来的新挑战，思考人类的自我变革方向。在算法的设计者这样的群体中倡导工具理性和价值理性相融合的技术理性、算法理性与算法伦理，让人文研究者更多参与对算法的开发与应用，在全民进行算法素养的培养，在法律和社会治理体系上面对算法挑战做出调适，或许是算法时代人类自身必要的升级。
