内容提要:技术进步引发平台责任制度的变革,进而催生出技术避风港这一特殊规制手段。当前,我国围绕主体责任搭建平台责任体系,尽管此举给平台施加了强有力的外部规制压力,但网络平台在违法内容和行为治理方面依旧暴露出诸多未解难题,表现在网络盗版、个人信息泄露、网络暴力、数据安全等方方面面。技术避风港作为“私权力”兴起背景下的一类法律规制模式,在当前我国平台责任制度中被严重低估。面对当前我国平台责任制度过于粗放、技术规制激励不足的现状,我国监管机构应当利用技术发展为平台治理带来的契机,围绕技术避风港来构建平台责任制度。这一转变将使得平台治理变得更为有效、更能适应技术更新迭代,进而改善我国网络平台的治理现状,顺应平台经济健康有序发展的需求。
关 键 词:平台责任 平台治理 技术避风港 技术规制
随着数字经济的发展,版权纠纷、数据安全、隐私保护等问题引起社会公众日益关注,并进入我国立法、行政和司法的视野,随之而来的是平台责任制度研究的不断发展和深入。可是,在诸多研究中,除了网络知识产权领域偶尔提及,国内学界对于利用技术措施实现内容治理的技术避风港(Technology Safe Harbor)的研究基本空白,尚未出现技术避风港基本原理的讨论,也没有学者对不同领域技术避风港的具体实践进行总结归纳,更不用说结合中国平台治理实践在制度层面展开分析和反思。这对我国平台责任理论研究与相关规制实践而言,不能不说是一个缺憾。
早在二十多年前,美国学者劳伦斯·莱斯格(Lawrence Lessig)就曾提出,“代码即法律”。①而这一论断落实到平台责任制度实践中,便是利用技术手段来治理平台。事实上,实践走在理论前方。国内外平台早已在大量商业实践中,利用技术来实现对网络违法内容和行为的事前、事中、事后的治理。而作为激励技术规制的一项法律制度,技术避风港也得到各国互联网监管机构的青睐,成为其监管工具箱内的常规武器。
本文从平台责任视角出发,首先对技术避风港基本原理进行分析,指出技术避风港在平台审查负担、用户权利保护、监管职能分配等各个层面,存在着有别于其他平台责任类型的法律效果;而随着互联网技术的普及和成熟,技术避风港的治理优势愈发凸显,也因此有着更宽泛的应用前景。紧接着,通过对技术避风港制度具体实践的反思,可以发现:尽管技术避风港在平台治理中作用突出,但若被滥用,也可能引发加重中小平台负担、难以应对规避技术、技术清单更新障碍等新问题。最后,为了在“压实主体责任”的大背景下,②充分发挥技术避风港的规制作用,本文结合我国当前平台治理实践,探讨技术避风港的可行性及其局限。本文认为,面对当前我国主体责任过于粗放、技术规制激励不足的现状,合理引入技术避风港,可以提升平台治理效率、也更能适应技术更新迭代,在总体上改善网络平台的治理现状,进而促使平台经济健康有序发展。
一、平台责任谱系下的技术避风港
当用户在网络平台上发布违法言论或实施违法行为之时,平台是否需要承担平台责任?这向来是互联网治理的核心议题。
在我国,学界针对平台责任的讨论,最初集中在版权侵权领域。早期互联网由于其用户端的匿名性和监管端的缺位,网络盗版横行,版权侵权一旦发生,权利人很难锁定直接侵权人寻求救济;即便锁定直接侵权人,后者也很可能不具备足够的经济能力赔偿损失。③正是在此现实背景下,间接侵权责任被引入。平台作为网络内容和行为发生的枢纽,是间接责任的承担者;平台所承担的间接责任,也就是最典型的平台责任。④当前绝大多数国内平台责任制度框架和规制思路,都是建立在早期网络盗版规制经验之上。
美国法对于平台责任的讨论更早也更复杂。早在20世纪90年代初,美国就已出现平台责任问题,并有着超越版权侵权的、更多维的实践和研究。历经四十余年,美国平台责任制度发展出如下四种类型:严格责任制度(Strict Liability)、基于过错的平台责任制度(Fault-based Liability)、责任避风港制度(Safe Harbors)和完全豁免制度(Absolute Immunity)。这几类平台责任制度程度不一,除严格责任和完全豁免这两个互相排斥的极端之外,都可以搭配组合,构成针对特定网络违法内容或行为的规制模式。
从制度史上看,美国平台责任经历了“由严格、到宽松、再回归严格”的钟摆式演进历程。20世纪90年代早期,网络违法内容和行为有限、治理手段匮乏,因此,严格责任制度存在相当大的适用空间。在严格责任制度下,无论过错与否,只要平台上出现违法内容或行为,平台都须担责。⑤不难想见,严格责任推高平台合规成本,可能扼杀萌芽状态下的互联网产业。正是注意到这一危险,随着互联网产业逐步成为美国鼓励发展的新兴产业,严格责任制度的适用范围被一步步限缩。到了九十年代中后期,以《传播风化法》第230条款、⑥泽兰案为代表的立法和判例,⑦将美国平台责任制度骤然推向钟摆的另一端——完全豁免制度。在完全豁免制度的庇护之下,平台对大部分违法用户内容和行为都无须承担责任。⑧随着新千年的到来,面对越来越猖獗的网络侵权,美国也开始反思、并逐渐摆脱原有的完全豁免制度,根据不同网络侵权场景,摇摆于严格责任制度和完全豁免制度两端之间。由此催生出一系列基于过错的平台责任制度,包括知识产权领域比较熟悉的替代侵权和帮助侵权责任。⑨尤其值得关注的是,在美国平台责任制度钟摆式演变过程中,一系列责任避风港应运而生,其中最具代表性的有两类:一类是学界耳熟能详的“通知—删除”避风港(“Notice and Take Down” Safe Harbor),⑩另一类是学界关注较少的技术避风港(Technology Safe Harbor)。(11)
由于互联网产业先发优势,美国平台责任制度有着丰富的理论和实践经验,不断为包括中国在内的后发国家所借鉴,这使得美国平台责任制度的讨论具备了超越美国法的普遍意义。我国的平台责任体系最早也是从美国汲取制度经验。典型例子出现在早期网络知识产权领域,《信息网络传播权保护条例》近乎照搬美国《千禧年数字版权法案》的“通知—删除”避风港。其规制思路也与美国别无二致:一方面,平台作为整个网络内容和行为的枢纽,不能置身事外、完全豁免;另一方面,毕竟纠纷是发生在第三方,也不能将所有责任一并推给平台,必须留出免责空间。在中美两个互联网产业大国的规制实践中,这一平衡需要各种法律制度载体,而避风港制度就是其中之一。
而我国平台治理现状对技术避风港有着更迫切的需求。当前我国监管机构不断强调“主体责任”(近似但又超越严格责任),(12)这与网络纠纷的复杂性和我国运动式治理的传统不无关系。因此,平台为规避粗放式主体责任所引发的高度法律风险,不得不投入大量合规成本,甚至大规模封杀用户内容或行为,引发寒蝉效应,不利于产业健康发展。(13)如果在平台制度中缺乏足够的免责激励机制,导致平台即便采取技术规制措施,仍需承担主体责任,那么作为违法内容治理桥头堡的平台,就将缺乏实质动力来建立精细化的技术规制体系。此时,技术避风港就变成一个监管机构认可的、法律上的合规路径,它能够加强企业对平台责任的预期,激励平台开发和改进的用户内容和行为治理技术。(14)和“通知—删除”避风港等其他责任避风港一样,只要技术避风港的制度设计公开明晰,就将使平台对法律后果有着明确预期,(15)从而激励和引导平台放开手脚部署资源和创新技术。(16)这对于我国的互联网治理由主体责任粗放式转向技术场景精细化有着重大意义。
二、技术避风港的类型与演化
(一)技术治理与技术避风港
“代码即法律。”二十多年来,技术治理已逐渐成为网络空间治理的常规手段,其重要性有时甚至超越法律规范。可以想见,社交平台的一段关键词屏蔽代码、视频平台的一套版权过滤机制、游戏平台的一批封号指令,这些技术治理手段比起法律规范,对网络用户的影响更直接,甚至更有效。对技术治理最敏感的,自然是技术实力更强的网络平台。在违法内容和违法行为治理层面,无论是出于监管压力,还是规避风险,甚至是维持平台社群规范,平台在技术治理道路上从未止步。(17)
以互联网巨头谷歌为例,其旗下的视频内容平台和文字内容平台,就分别采取了两类技术治理措施,并都成了行业技术治理的标杆。针对视频内容平台的重灾区——版权侵权,谷歌开发了Content ID系统。版权权利人在系统备案其作品,系统为版权作品打上数字指纹,并在技术上对用户上传的作品与版权作品高效比对,并依据比对结果区别对待:或删除内容,或要求付费,或发布内容。谷歌单单运用这一项技术,就清除了平台98%以上的侵权内容。(18)无独有偶,针对文字内容平台重灾区的低俗言论,谷歌开发了Google Perspective技术方案。该技术方案采取机器学习算法分析用户内容,根据其“毒性”(toxicity)指数,言论越低俗,毒性指数越高,分级分类管理用户内容。(19)尽管Content ID和Google Perspective这类技术治理措施可以成为平台在诉讼中“履行注意义务”的抗辩事由,但它并不必然构成法律上的责任避风港。
有别于上述自发技术治理措施,技术避风港是由监管机构以规范方式,确定相应技术作为责任豁免条件。具体而言,技术避风港是指:监管机构通过技术审核,认定一项或多项技术方案作为合规技术方案,一旦平台按照要求采取了合规技术方案,就能获得平台责任豁免,亦即,平台无需再为用户违法内容或行为担责。与司法过程中以“技术标准”或“必要技术措施”作为侵权抗辩的不同之处在于,(20)技术避风港以更明确的方式,免除部署特定技术方案的平台的法律责任,为平台指明了一条附带技术条件的合规途径。
技术避风港的优势突出体现在规制效率上,这对平台和监管机构都成立。对平台而言,由于用户内容和行为庞杂(中国、美国、印度这类网络用户体量较大的国家尤其如此),平台承担较高的法律责任风险;(21)在这一背景下,技术避风港由于得到监管机构认可,可以被平台用来强化自身的免责预期。(22)对监管机构而言,它们也可以通过部署技术避风港,激励平台采取技术规制,从而将有限的监管资源投放在更为复杂的、需要人工介入的纠纷中。
从定义可以看出,和“通知—删除”避风港一样,技术避风港也是平台通过主动作为,换取法律责任豁免。然而,它与“通知—删除”避风港仍存在两大区别:第一,前者一经平台主动采取就普遍生效,后者须经受害人通过个案启动避风港进程;第二,前者属于事前预防,规制目标是防患于未然,而后者属于事后干预,规制目标是救济于水火。
(二)技术避风港的类型
根据技术评估方式不同,技术避风港可分为两类:一类是白名单型技术避风港,另一类是自评估型技术避风港。
1.白名单型技术避风港——以COPPA技术避风港为例
白名单型技术避风港,是指监管机构审核认定用于规制特定内容或行为的技术,将其列入技术白名单,一旦平台部署技术白名单内的技术,就对用户违法内容或行为免责。白名单型技术避风港的经典案例,是美国联邦贸易委员会(FTC)主导的COPPA技术避风港。
COPPA技术避风港从1998年开始启用,迄今已有二十多年历史,这在互联网时代堪称“悠久”。1998年称得上是“平台责任避风港元年”,当年国会接连通过《千禧年数字版权法案》(DMCA)、(23)《儿童在线隐私保护法》(COPPA)。(24)前者创设了版权领域的“通知—删除”避风港;后者则创设了未成年人保护领域的白名单型技术避风港。顾名思义,COPPA立法目的是在网络空间中保护未成年人隐私,该法案禁止他人在互联网上收集、使用或披露儿童隐私。法案中明确指出,COPPA将“激励网络平台采取技术规制手段进行自我监管”。其最重要的武器,就是技术避风港。具体而言,负责COPPA执行的美国联邦贸易委员会(FTC)以白名单的方式,列出符合儿童在线隐私保护标准的技术清单。只要网络平台采取了任意一项白名单内的技术,就可换取相应的平台责任豁免。
和其他技术避风港一样,COPPA避风港的免责环节相对简单,要害在于技术审核认定,亦即:如何确定白名单上的技术方案?COPPA避风港要求技术方案提供商和行业团体向FTC提交儿童信息保护技术自名单申请,经过FTC组织专家进行实质审核,一部分技术被列入技术白名单,并且这份白名单将随着技术发展和定期审核而不断更新。(25)很长一段时间里,COPPA白名单列表有7种技术方案:Aristotle,Children's Advertising Review Unit(CARU),Entertainment Software Rating Board(ESRB),iKeepSafe,kidSAFE,Priracy Vaults Online(d/b/a PRIVO),TRUSTe。2021年的8月,Aristotle由于审核不达标,被剔除出局,自此,COPPA白名单仅剩6种。平台一旦采用6种技术方案种的其中之一,相关技术就会在平台上发挥儿童隐私保护的功能,哪怕无法尽善尽美,也无需为儿童隐私泄露担责。
2.自评估型技术避风港——以隐私盾技术避风港为例
随着技术发展和应用的复杂化,要求监管机构对每项技术都进行实质技术审查的白名单型技术避风港,逐渐将监管机构技术能力和资源匮乏的特点暴露出来——监管机构没有足够的技术人员来审查量大且复杂的技术方案。自评估型技术避风港随之出现。自评估型技术避风港,是指由平台自行评估以证明其所用技术方案符合合规标准,监管机构审核平台提交的自评估报告,一旦认证该技术方案符合规制标准,则平台就相应的用户违法内容或行为豁免责任。与白名单型技术避风港不同,监管机构审核的是平台主动提交的自评估报告,而非技术方案本身,降低了监管机构的审核难度。
自评估型技术避风港的典型实例是隐私盾技术避风港。隐私盾技术避风港的源头是由美国商务部主导的《避风港协议》(Safe Harbor Agreement)。由于美欧数据隐私保护标准不同,《避风港协议》曾长期为通过其认证的美国企业提供平台责任豁免。然而,“斯诺登事件”爆发后,欧盟最高法院认定《避风港协议》未能充分保证欧盟公民的数据隐私,进而裁定无效。(26)之后,美国和欧盟又补充签订了《隐私盾协议》(Privacy Shield)。与前者类似,《隐私盾协议》亦包含自评估型技术避风港——平台提交其所采取的隐私保护技术方案的自评估报告,一旦被认定达标,则可以在《隐私盾协议》框架下享受相应的跨境平台责任豁免。尽管后来《隐私盾协议》再次被欧盟最高法院裁定无效,但是美国商务部继续提供隐私盾技术认证业务,作为企业跨境数据合规的一项重要指标。自评估型技术避风港与白名单型技术避风港不同,美国商务部只审查技术供应商提供的自评估报告,一旦发现自评估报告与实际存在误差,那么隐私盾将不再为其提供技术认证。(27)至今,美国已有2974家科技公司通过美国商务部审核,获得隐私盾技术认证;另有3267家科技公司在申请后,未能获得隐私盾技术认证或认证失效。(28)
(三)技术避风港的中国实践
由于相关研究和实践的空白,我国目前尚未出现类似COPPA技术避风港、隐私盾这般成熟运作的技术避风港机制。然而,在实践中,我国的一些网络规制机制也可以被解读成技术避风港的雏形。比如,2021年通过的《个人信息保护法》第4条第1款规定:“个人信息是以电子或者其他方式记录的与已识别或者可识别的自然人有关的各种信息,不包括匿名化处理后的信息。”最后一段除外条款的规范意涵在于:经由匿名化技术处理的个人信息,不再属于《个人信息保护法》所定义的个人信息,也将被排除在该法的责任范围之外。(29)立法者是为了平衡平台保护个人信息的责任与平台对个人数据利用的一个妥协。而如何真正在规制实践中落实这一妥协,实际上立法者也指出了一条通向技术避风港的进路:通过特定匿名化技术的应用,成为《个人信息保护法》所认可的“匿名化处理”,进而在该法的框架内免责。同样,这一类似技术避风港的规定也不具有任何强制性,平台可以选择不将个人信息匿名化,也可以选择将个人信息匿名化,甚至可以选择在多大程度上将个人信息匿名化;最终的选择,取决于平台如何权衡平台责任风险与个人信息利用。
此外,在网信办牵头下,相关技术自评估指南也呼之欲出,比如,在应用程序(APP)收集使用个人信息领域,2019年年底,围绕网信办、工信部、公安部、市场监管总局联合制定的《APP违法违规收集使用个人信息行为认定方法》,我国App专项治理工作组就发布了《APP违法违规收集使用个人信息自评估指南》;同时,全国信息安全标准化技术委员会也编制了《网络安全标准实践指南一移动互联网应用程序(APP)收集使用个人信息自评估指南》。这些自评估指南虽然尚不足以成为自评估型技术避风港,但也体现了监管需求增加后,监管机构和平台对通过技术自评估来降低平台责任风险的诉求。
(四)法理分析:技术避风港的非强制性
通过对白名单型技术避风港和自评估型技术避风港的考察,我们可以总结技术避风港的特点。如上文所述,两类技术避风港的相同之处在于:它们都赋予网络平台一个责任豁免的制度选项,亦即采取特定技术方案以换取相应的平台责任豁免。
必须强调,就其法律性质而言,技术避风港只是平台可以采取的一个“选项”。一方面,和现实中的避风港一样,平台不一定要进入避风港;平台可以选择不进避风港,继续出海航行,并因此承担相应责任风险。事实上,只要责任风险(诉讼损害赔偿金、和解补偿、商誉损失等)低于平台放任违法用户内容或行为所得的收益,那么平台在权衡之后,完全可以选择不进避风港。同时,平台(尤其那些难以负担技术避风港合规成本的平台)还可以选择牺牲避风港所指向的风险高、合规成本高的网络服务,而经营其他风险更低、合规成本更低的网络服务。
另一方面,避风港在法律意义上并不是一种强制性规则。这就将技术避风港与技术强制措施(technology mandate)区别开来。技术强制措施在国内外网络规制实践中并不少见。比如,美国和加拿大为了控制流媒体中少儿不宜的内容,而强制要求电视机生产商安装的V-chip。(30)再比如,中国为推动互联网未成年人保护而强制公共计算机系统安装的“绿坝—花季护航”软件。(31)与技术避风港不同的是,V-chip和“绿坝—花季护航”这类技术强制措施,是由监管机构自上而下直接强制软硬件平台安装。此时,平台毫无选择,只能服从,否则违法。(32)类似技术强制标准早期散见于环境安全、食品安全、国家安全等领域,在行政法领域已有很多讨论。(33)技术强制措施最大的弊端是:错误成本(error cost)太高。面对更迭较快的技术(尤其是规避技术),技术强制措施这种近乎“一刀切”规制方式,很难把握分寸,很容易在技术更迭下陷入规制不足(under-inclusive)和规制过度(over-inclusive)的困境。恰如当年“绿坝—花季护航”的规制失败,最后也惹得一地鸡毛。(34)相较于技术强制措施,技术避风港由于不具备强制性,可以降低错误成本风险,为监管与合规保留一定弹性,因而也更有利于及时回应技术更迭。
(五)法理分析:技术避风港的审核评估方式
白名单型技术避风港和自评估型技术避风港二者最重要的区别,是技术审核评估方式。实际上,哪怕没有技术避风港,评估平台所采取的技术措施,向来是平台责任认定的重要环节,类似实践普遍存在于司法实践中。在早期案例中,法院承担了技术方案的审核评估工作,判定平台采取某项技术可否作为平台免责的抗辩或条件。例如,在2000年法国雅虎案中,法国法院在听取技术专家证词后,认定在技术上雅虎过滤纳粹纪念品拍卖网页完全可行,并以此要求雅虎采取相关技术措施,屏蔽法国用户访问纳粹纪念品拍卖网页,为雅虎的平台内容合规,指明了一条规避平台责任的技术路线。(35)与之类似,在SABAM案中,比利时法院通过审核控辩双方技术专家的评估,驳回了网络平台采取特定技术换取责任豁免的认定诉求。(36)这两案虽然不属于技术避风港案例,但在这两案中,法院都变相承担了技术方案的审核评估工作:由技术专家提供报告,法院裁定相关技术部署是否足以豁免平台责任。
然而,由司法机关来承担技术评估职能并不适当。绝大多数法官并不具备技术专长,不能准确分析技术类案件所涉及的复杂多变的技术。(37)布雷耶(Stephen Breyer)法官在Grokster案中概括得非常准确:“比起其他公权力机关,面对新技术所引发的各种竞争利益的组合分配,法院尤其显得无所适从。”(38)事实上,随着新技术的出现,天然保守倾向的法院总会在“依据新技术创设新规则”与“遵循旧有先例”之间摇摆不定。实证研究也表明,在技术类案件的裁判过程中,矛盾裁判的可能性比起普通案件更大。(39)此外,通过法院来审核评估技术进而认定技术避风港存在一个潜在弊端,某项技术在某个法院被认证合格,但在另一个法院则可能得出相反结论,除非是同管辖区域高级别法院做出裁判,或者被提炼为高位阶的判例或司法解释,否则,将极易造成技术避风港认定的混乱和不确定性,长此以往也将损害司法机构审理技术案件的公信力。
本文认为,无论是白名单型技术避风港,还是自评估型技术避风港,都应当由行政机构来承担审核评估职能。(40)尽管法院在个别案件中可能采取较为精细的审核,但是在大规模技术应用的背景下,比起司法机构,行政机构通常拥有更多技术审核所必备的专业知识和相关技术人员,因而也更有把握在特定技术发展阶段,裁断哪些可行技术方案能满足规制需求。此外,行政机构也更有能力调动行政资源,动员网络平台、技术提供商或相关行业标准制定组织,审定技术评估标准。(41)
当然,两类技术避风港,对行政机构技术审查的要求有所不同。针对白名单型技术避风港,行政机构在前期需调动多方参与技术避风港的审核评估,来确定哪些技术方案可以被纳入技术避风港。而在此之后,行政机构需要采取定期例行审查(年检、月检等),及时更新白名单,剔除后续未能达标的技术方案。例如,FTC第一次确定COPPA白名单之时,就是在吸收行业组织、利益相关方和公众意见后,最终敲定技术方案的审核策略;而COPPA白名单在二十多年来,虽未发生大变动,但定期审核评估机制依然发挥作用,并在2021年8月将年检不达标的Aristotle技术方案剔除出白名单。(42)
针对自评估型技术避风港,相关行政机构的审核是持续性的、而非阶段性的。相关行政机构必须设立专门审查部门,就特定技术领域,对前来申请的平台做出自评估审核。例如,隐私盾技术避风港的审核工作,便是依赖美国商务部下设的国际贸易署(International Trade Administration),这是一整套人员冗杂的官僚审查制度,其中隐私盾技术避风港主要由数字服务办公室(Digital Services Industries)负责。我国目前行政机构在技术评估方面尚缺乏足够的资源、能力和经验,因此,行业内部也出现了一系列自评估体系和相关指南。(43)这种由监管机构评估向自评估转变的趋势,是一个数字服务扩张超越行政能力范围后的普遍现象,这种现象也折射出监管机构的技术审核评估困境:一方面,数量和复杂程度的提升推高了监管成本;另一方面,监管机构往往存在与监管对象存在信息和技术的不对称。
与上述行政机构技术审查方式相关,两类技术避风港在刚性程度上也不相同。尽管存在特定技术领域的差别,但总体上白名单型技术避风港由于提供了非白即黑的技术清单,技术标准的刚性更强,只要平台采用白名单上的技术,就可以获得相应的平台责任豁免。反观自评估型技术避风港,它的评估对象是个体平台所部署的技术方案,每个平台都有各自技术方案,因此,自评估型技术避风港不可避免地要根据技术规制所预期的实际规制效果,来拟定相应的技术标准,其技术标准通常因顾及中小平台的合规成本而不得不保留足够的弹性和余地。
必须指出的是,技术避风港审核评估的重点应该是技术效果,而非技术属性。正如杰克·巴尔金(Jack Balkin)在与雷恩·卡洛(Ryan Calo)辩论时所指出的,从法律和政策的角度来看,真正重要的不是技术属性,而是技术所引发社会关系变化的后果。(44)具体而言,法律人和政策制定者应当着重考察某项待评估技术是不是在效果上真正实现了对违法内容和行为的规制目标。也就是说,在审核评估时,我们不应仅仅关注技术或算法本身,而应将更多注意力转移到技术效果上。因此,技术避风港的评估,需要一个基于技术效果的动态评价。这对指导技术避风港实践很重要——只要聚焦于技术效果,技术故障、算法透明等诸多问题,就不会持续困扰行政机构,因为这些法律人所并不擅长裁定的技术属性的影响,最终也将反映在法律人所能观察到的技术效果上。(45)而且基于技术效果的评估,在实践中更容易通过测试样本、测试语料库等手段加以检验和测算。这样一来,通过算法竞争(Algorithm Competition)的模式,由申请技术避风港资质的技术开发商各自开发算法,并通过统一的测试评估数据池来竞争,根据规制效果优胜劣汰,规制效果更优的技术进入白名单,效果较差的技术被淘汰。(46)并且,这类算法竞争不是一锤子买卖,而是一个动态持续的过程。可以想见,随着技术的发展变化,有些技术方案将脱颖而出,推高规制效益标准,另一些技术方案则可能被破解、被淘汰。这样的技术竞争将反过来刺激技术开发者继续改进自身技术,以算法竞争方式,最终提升网络治理的整体水平,长此以往,甚至可以重塑更具可规制性的数字基础设施。(47)
三、技术避风港的反思与平台责任制度的重塑
综上所述,技术避风港作为平台责任制度演变的产物,历经多年发展,已成为各国网络规制工具箱中的一套常规武器。但从理论上我们如何看待这种新型规制模式?技术避风港能否成为网络规制的万灵药?技术避风港与其他平台责任类型的关系如何?本部分将尝试对这几个问题做出回应,以期提出有助于发挥技术避风港优势、降低其潜在风险的思考。
第一,技术避风港合规成本的问题。与任何规制技术一样,平台一旦采用技术避风港,就会产生合规成本;一旦成本过高,那它就可能变相成为平台服务的准入壁垒,这不单单是技术避风港问题,也是所有责任避风港常受质疑之处。按此逻辑,大平台有可能利用技术避风港,将那些无力承担技术避风港开发或应用的中小平台驱逐出网络服务市场。这是一个值得重视的质疑。对此,本文有三个回应。首先,如前文所述,平台可以选择进入技术避风港,也可以选择不进入。到底要不要进入技术避风港,一方面,取决于技术避风港所豁免的平台责任是否会实质影响该平台的商业模式;另一方面,也取决于成本收益分析——如果进入避风港的成本大于责任风险成本,那么,企业可以选择不进入避风港,而做其他选择,比如放任不规制、全面规制、人力监控等。例如,个人博客网站在访问量较少且内容稳定的情况下,通常选择不进避风港,由管理员进行人力监控用户内容。其次,在技术避风港的实践中,监管机构也可以采取一系列手段来尽量降低小平台的合规成本。监管机构解决这类问题的手段之一,是在技术避风港的过渡期内引入日落条款(Sunset Provision)。日落条款可以使中小平台在正式进入技术避风港之前,有一定缓冲期可以自行开发相应技术或寻求技术供应商的支持,并在此特殊期间暂时享受技术避风港的责任豁免。(48)最后,技术避风港的制度设计,将持续激励相关技术开发商的创新,通过技术方案的市场竞争,改进规制效果,压低平台所需承担的成本,否则将不受平台青睐直至被淘汰。这种技术竞争,还将产生溢出效应,因为所有技术规制体系都需要优化违法内容和行为的识别能力,相关技术都可能被单独使用或与其他技术结合使用,还可能被其他平台、监管机构、用户所使用,从而提高全网整体的内容治理水平。(49)而且,一旦技术避风港在网络平台上大规模应用,长远来看,将引发技术架构的重塑,平台与平台之间针对同一类侵权内容或行为的合规成本将系统性降低,(50)也将会催生出更具可规制性的数字基础设施,这不但有利于促进信息要素交易和流动,(51)还有利于系统性地降低技术规制成本,提高规制效益。
第二,无论是白名单中的技术方案,还是已通过自评估的技术方案,都可能被破解、被规避。因此,面对日新月异的互联网技术,在法律规制层面,如何保证在技术可行的前提下,激励平台主动实施有效的技术规制,现实中这种法律规制的不确定性和不稳定性依然存在。在法经济学上,这种不确定性和不稳定性便提升了避风港规则的制定成本。(52)然而,避风港规则制定成本的提升,并不必然预示着监管效率降低。高效规制并不等于完美规制。事实上,面对大量重复发生、模式统一的违法行为,规则制定成本可以分摊,执法成本几乎为零(因其转嫁给平台技术),从而降低解决违法行为的整体平均成本。(53)既有的技术避风港实践已提供一系列应对经验,其中之一是将整个白名单或自评估机制建立在对相关技术方案的动态定期审核上。定期审核的时间间隔,将根据相关技术的研发速度、审核周期和相关机构的审核负担与能力来综合确定。而避风港规则一旦确定,就可以实现大规模统一执法;并且,随着相关信息在定期审核过程中的不断累加,后续规则制定成本往往比最初白手起家具有更高的产出效率。(54)这种监管弹性和大规模统一执法对于背负法治化和产业发展双重目标的平台治理而言,与其说是有益的,毋宁说是必须的。这是因为无论是强制技术标准,还是主体责任,都将在给行政机构带来行政诉讼风险的同时,引发用户内容或行为的寒蝉效应,最终不利于数字经济发展。而技术避风港的自愿特性和改进机制,将有助于行政机构化解相关风险并加以取舍,最终优化规制成本效益。
第三,技术避风港仅仅是一种由平台主导的自行规制,其监管效果成疑。首先,我们需要厘清当下的网络用户内容和行为的规模。以微博为例,根据微博2021年第三季度财报显示,微博月活跃用户已达5.73亿,其中,日活跃用户为2.49亿。自2017年起,微博的月活跃用户和日活跃用户就一直维持在3亿和1.5亿以上。而微信、抖音、快手等内容平台,活跃用户也是数以亿计。
考虑到当前网络内容的规模,将平台作为治理违法内容和行为的桥头堡角色,不仅仅是一种理论可能,而是成为一种现实需求,因为监管机构即没有充足行政资源,也没有足够技术能力来直接管理网络内容。与此相对应的是掌握技术能力的平台,其“私权力”(private power)不断提升,一跃成为网络空间治理的新主体。(55)平台在网络内容治理方面,肩负多重角色:像立法机构一样确定违法内容的范围,像法院那样裁定特定内容是否合法,并像行政机构一样执行惩戒。(56)而诸多研究和讨论表明,平台是绝大多数网络侵权纠纷领域的“最小成本规避者”,亦即实现网络纠纷解决的成本最低一方。(57)在这种情况下,规制理论中的自行规制(self-regulation)往往会被作为补充规制方式被引入讨论。自行规制作为公权力机关监管的补充,往往更具规制灵活性、行政成本相对更低、也可能实现更定制化的合规。(58)尤其在互联网治理中,随着技术提升以及网络行为的复杂性增强,仅仅依靠监管机构已经难以满足监管需要,因此,面对海量的用户违法行为,监管机构如能找出其中值得技术干预的违法模式,利用技术避风港这类自我规制方式,就可以大大分担其监管压力,并使其能集中有限的规制资源处理更具社会危害性的违法行为。
当然,必须承认,在技术避风港的具体实践中,由于自我规制中技术的引入,不可避免地带来监管过程中的两方面顾虑。一方面,技术引入会强化平台方或相关技术方的内容治理私权力。那么,在技术水平普遍不如平台的情况下,监管机构能否避免出现公共监管屈从于私人治理,以及由此引发的监管俘获风险?(59)这是对平台技术进行有效监管带来挑战。另一方面,技术的引入还可能引发“技术甩锅”问题:对于监管不当或失据行为,平台可以将责任通过层层制度上和技术上的规避,推给技术提供商。(60)这样的责任转嫁尤其容易出现在白名单型技术避风港中。但这些顾虑都不足以完全反驳引入技术避风港所带来的更大收益。
值得注意的是,与公权力机关监管的充足动机不同,私主体自行规制往往不具备充足动机,因而需要监管机构的“胡萝卜加大棒”来激励和督促私主体的自行规制。具体到技术避风港而言,平台责任豁免就是对平台最重要的激励,对于正处于“压实主体责任”监管环境下的我国网络平台尤其具有吸引力。除此之外,一系列技术补贴政策和技术扶持政策,也可以被用来刺激平台的自行规制。通过合理使用“胡萝卜加大棒”,监管机构可以调整设计技术避风港,鼓励更广泛的行业内技术参与,从而确保避风港内的技术达到合理水平的同时,也落入中小网络平台能够承受的合规成本之内。这种公私合作共治的模式,将有助于释放在纠纷体量极大背景下尤为稀缺的司法和执法资源。我们不能寄望技术避风港一劳永逸地解决所有网络纠纷,但合理利用技术避风港,确实能解决掉大部分简单明晰的网络纠纷,尤其是那些决策信息成本较低的规则判定,(61)进而把有限的司法和执法资源留给技术所无力应对的疑难杂症。
在总结和分析了技术避风港的基本原理和具体实践之后,我们可以发现,面对技术发展迅速的网络空间,作为一项富于弹性、规制能力强的平台责任制度,其可以在网络规制中发挥基础性作用。当大量的网络纠纷经过技术避风港处理后,我们才能集中行政和司法资源处理其他更复杂、更具社会危害性的违法内容或行为。而作为主动规制方式的技术避风港,比需要受害人发起的被动规制方式“通知删除”避风港,在面对海量用户内容和行为时,有着更宽泛的适用空间,也对于依赖事前规制的网络盗版、个人信息泄露、网络暴力、数据安全等问题,有着更显著的规制效果。因此,虽然技术避风港在理论脉络上可以被看成是基于过错的平台责任制度的一个衍生品,但它在具体实践中所能发挥的实效和潜力,超越了先前的所有平台责任制度设计。
在前述论证基础上,本文提出核心观点:在当前网络纠纷爆发、监管资源紧缺的情况下,比起分处平台责任谱系两端的严格责任制度和完全豁免制度,以及我国当前主流的主体责任制度,技术避风港更应该成为平台责任制度的基石。因此,一个符合当前规制需求的平台责任制度,应当围绕技术避风港来构建。随着技术避风港的推广和应用,技术内容治理基础设施也将得到整体改善,在此基础上,监管者再根据平台的分类分级,(62)来确定不同的补充性平台责任制度,这些补充性平台责任制度包括但不限于主体责任、严格责任、“通知—删除”避风港、基于过错的平台责任制度和完全豁免制度。
四、结语
同西方大国一样,我国互联网监管一直面临着多重困境,比如用户体量庞大、网络违法行为多样、监管资源严重不足等。放眼全球互联网治理格局,各国都在加强互联网的监管,以美国《传播风化法》第230条款为代表的完全豁免制度正在逐步被限制责任、甚至严格责任制度所取代。我国也不例外。当前,由于网络违法内容和行为泛滥,监管机构不得不在越来越多的领域施加主体责任这类粗放式的平台责任制度,其副作用也日益突出。在这一大背景之下,责任避风港制度为我国指明了一条更为精确奏效的、不过分阻碍产业健康有序发展、不过分限制公民表达自由和通信自由的规制进路。而通过对技术避风港的分析、总结与反思,本文指出:为了摆脱当前的互联网监管困境,技术避风港作为私权力兴起背景下的规制模式,是当前我国平台责任制度中被严重低估的规制工具。尽管我国目前已出现一系列技术避风港制度雏形,但距离真正落地还有很长的路要走。因此,我国监管机构必须顺应技术发展为平台规制带来的契机,引导网络平台和技术服务商强化技术规制手段,围绕技术避风港来构建平台责任制度。这将使得平台治理变得更为有效、且更能适应技术更迭,进而有利于改善网络平台的法律监管。这也将节省监管机构监督海量用户内容和行为的成本,将有限的行政资源集中用于最迫切的网络侵权纠纷中。而学界对技术避风港的深入讨论,也需要进一步探索以技术避风港为主导的规制模式,这将对平台责任理论发展和实践成效带来深远影响。
注释:
①(美)劳伦斯·莱斯格:《代码2.0:网络空间中的法律》,李旭、沈伟伟译,清华大学出版社2018年版,第1页。
②主体责任是指互联网企业对平台上发生的违法内容和行为承担兜底责任。这一概念是我国网络规制实践中出现的独有概念。根据我国不同法律法规对于主体责任内容的阐释,我国的主体责任涵盖范围非常宽泛,既包括事后出现纠纷被动承担的第三方责任,也包括事前积极治理的责任。参见国家互联网信息办公室:《关于进一步压实网站平台信息内容管理主体责任的意见》(2021年9月15日),载国家互联网信息办公室官网,http://www.cac.gov.cn/2021-09/15/c_1633296789845827.htm,最后访问日期:2023年6月15日;国家市场监督管理总局:《互联网平台落实主体责任指南(征求意见稿)》(2021年10月29日),载国家市场监督管理总局官网,https://www.samr.gov.cn/hd/zjdc/art/2023/art_c0086d02fcc544ea9506c997b3ac93c1.htm|,最后访问日期:2023年6月15日。
③See Anne Wells Branscomb,"Anonymity,Autonomy,and Accountability:Challenges to the First Amendment in Cyberspaces," The Yale Law Journal,Vol.104,No.7,1995,pp.1642-1643.
④逻辑上,平台责任既包括平台直接责任,也包括平台间接责任。但在网络法研究中,无疑后者具有更大的讨论价值,因此,大部分研究文献默认其指向平台为第三方内容所需承担的间接责任。参见吴伟光:“视频网站在用户版权侵权中的责任承担——有限的安全港与动态中的平衡”,《知识产权》2008年第4期,第62-69页;吴汉东:“论网络服务提供者的著作权侵权责任”,《中国法学》2011年第2期,第38-47页。
⑤See Playboy Enters.v.Frena,839 F.Supp.1552,1554-1559(M.D.Fla.1993).See also,I.Trotter Hardy,"The Proper Legal Regime for 'Cyberspace'," Univeristy of Pittsburgh Law Review,Vol.55,No.4,1994,p.1044; Niva Elkin-Koren,"Making Technology Visible:Liability of Internet Service Providers for Peer-to-Peer Traffic," New York University Journal of Legislation and Public Policy,Vol.9,No.1,2006,p.61; Nancy Birnbaum,"Strict Products Liability and Computer Software," Computer/Law Journal,Vol.8,No.2,1988,p.144.
⑥See 47 U.S.C.§230(2000).第230条款最核心的条文被誉为“创造互联网的26个单词”:“No provider or user of an interactive computer service shall be treated as the publisher or speaker of any information provided by another information content provider”,意即“网络服务提供者不等于第三方提供之内容的出版者或发言者”。See Jeff Kosseff,The Twenty-Six Words That Created the Internet,Cornell:Cornell University Press,2019,pp.1-2.
⑦See Zeran v.Am.Online,Inc.,129 F.3d 327,333(4th Cir.1997).
⑧See Schneider v.Amazon,108 Wash.App.454(Wash.Ct.App.2001); Gentry v.Ebay,99 Cal.App.4th 816(4th Dist.2002); Goddard v.Google,Inc.,2008 WL 5245490(N.D.Cal.2008); Zango,Inc.v.Kaspersky Lab,Inc.,568 F.3d 1169(9th Cir.2009).
⑨See Mark A.Lemley and Eugene Volokh,"Freedom of Speech and Injunctions in Intellectual Property Cases," Duke Law Journal,Vol.48,No.2,1998,p.147.
⑩“通知—删除”避风港,是指网络平台接到权利人的侵权通知以后,应当删除平台上的侵权内容,或者切断存储侵权内容的网络访问通道,而一旦网络平台满足条件,就无需担责。当然,现实中流程还可能包括必要措施、反通知、恢复等。这一制度最早出现在美国《千禧年数字版权法案》第512条款中,后来被我国借鉴到《信息网络传播权保护条例》《电子商务法》、早年《侵权责任法》、当前《民法典》的具体规范条文中。相关学术讨论,参见孔祥俊:“‘互联网条款’对于新类型网络服务的适用问题——从‘通知删除’到‘通知采取必要措施’”,《政法论丛》2020年第1期,第52-66页;王迁:“《信息网络传播权保护条例》中‘避风港’规则的效力”,《法学》2010年第6期,第128页。See also,U.S.Senate,"The Digital Millennium Copyright Act at 22:What Is It,Why Was It Enacted,and Where Are We Now"(Feb.11,2020),https://www.judiciary.senate.gov/meetings/the-digital-millennium-copyright-act-at-22-what-is-it-why-it-was-enacted-and-where-are-we-now,last visited on 15 June 2023.
(11)除此之外,在网络版权领域讨论较多的,还有合理使用避风港。参见Gideon Parchomovsky and Kevin A.Goldman,"Fair Use Harbors," Virginia Law Review,Vol.93,No.6,2007,pp.1483-1530.
(12)相关讨论,参见周汉华:“《个人信息保护法》‘守门人条款’解析”,《法律科学》2022年第5期,第46页;叶逸群:“互联网平台责任:从监管到治理”,《财经法学》2018年第5期,第57页。
(13)有关寒蝉效应的讨论,参见左亦鲁:“告别‘街头发言者’:美国网络言论自由二十年”,《中外法学》2015年第2期,第420页。
(14)这一点在适用“通知—删除”避风港的网络版权规制领域,已有经验可以借鉴。由于“通知—删除”避风港的存在,网络版权侵权的规制技术(比如数字指纹技术、数字水印技术、地理位置屏蔽技术等)发展迅速,盗版内容的审核效率比之二十年前已有很大提升。
(15)参见戴昕:“作为法律技术的安全港规则:原理与前景”,《法学家》2023年第2期,第35页。
(16)法律责任确定性对技术创新的作用也被既有研究肯定。See Edward Lee,"Technological Fair Use," Southern California Law Review,Vol.83,No.4,2010,pp.822-823.
(17)讨论最多的是知识产权法,参见崔国斌:“论网络服务商版权内容过滤义务”,《中国法学》2017年第2期,第217-219页;其他诸如电子商务法也有相关讨论,参见王锡锌:“网络交易监管的管辖权配置研究”,《东方法学》2018年第1期,第147-148页。
(18)See YouTube Help,"How Content ID Works-," https://support.google.com/youtube/answer/2797370,last visited on 15 June 2023; Jean Burgess and Joshua Green,YouTube:Online Video and Participatory Culture,Cambridge:Polity Press,2018,pp.48-52.
(19)See Google Perspective,"Using machine learning to reduce toxicity online," https://www.perspectiveapi.com/how-it-works,last visited on 15 June 2023.
(20)快播案是典型案例。参见北京市海淀区人民法院(2015)海刑初字第512号刑事判决书、北京市第一中级人民法院(2016)京01刑终592号刑事裁定书。相关讨论参见桑本谦:“网络色情、技术中立与国家竞争力——快播案背后的政治经济学”,《法学》2017年第1期,第79-94页。我国的网络侵权相关立法(如《侵权责任法》第36条,《消费者权益保护法》第44条,《民法典》第1038、1195、1197条)也经常将必要技术措施作为平台义务或平台责任的抗辩。相关讨论,参见程啸:“论我国民法典中的人格权禁令制度”,《比较法研究》2021年第3期,第138-151页。
(21)美国版权办公室于2020年发布平台网络版权侵权责任的调研报告,系统梳理《千禧年数字版权法案》颁布20余年来的成效,着重指出“通知—删除”避风港成本越来越高,平台侵权风险越来越大。See U.S.Copyright Office,"Section 512 of Title 17:A Report of the Register of Copyrights," May 2020,https://www.copyright.gov/policy/section512/section-512-full-report.pdf,lasted visited on 15 June 2023.
(22)我国早期版权类案件就折射出“通知—删除”避风港引发的大型平台治理成本过高的问题。平台也借助一系列技术措施来实现过滤,但如果没有技术避风港的保障,那么这些技术措施也只能成为平台履行“注意义务”的一项证据而已。参见韩寒诉北京百度网讯科技有限公司案,北京市海淀区人民法院(2012)海民初字第5558号民事判决书。
(23)See Digital Millennium Copyright Act of 1998,Pub.L.No.105-304,112 Stat.2860(1998)(codified as amended in scattered sections of 5,17,28,and 35 U.S.C.).
(24)See Children's Online Privacy Protection Act of 1998(COPPA),Pub.L.No.105-277,§1302,112 Star.2681-728(codified at 15 U.S.C.§§6501-6506).
(25)See Federal Trade Commission,"COPPA Safe Harbor Program," https://www.ftc.gov/safe-harbor-program,last visited on 15 June 2023.
(26)参见贾开:“跨境数据流动的全球治理:权力冲突与政策合作——以欧美数据跨境流动监管制度的演进为例”,《汕头大学学报》2017年第5期,第57-64页。
(27)See International Trade Administration,"EU-U.S.Privacy Shield Framework Key New Requirements for Participating Companies," https://www.privacyshield.gov/Key-New-Requirements,last visited on 15 June 2023.
(28)See International Trade Administration,"Privacy Shield List," https://www.privacyshield.gov/list,last visited on 15 June 2023.
(29)参见沈伟伟:“个人信息匿名化的迷思——以《个人信息保护法(草案)》匿名化除外条款为例”,《上海政法学院学报》2021年第5期,第114页。
(30)See i.e.,Lawrence Lessig,"What Things Regulate Speech:CDA 2.0 vs.Filtering," Jurimetrics Journal,Vol.38,No.4,1998,pp.629-670; Jack M.Balkin,"Media Filters,the V-Chip,and the Foundations of Broadcast Regulation," Duke Law Journal,Vol.45,No.6,1996,pp.1131-1175.
(31)2009年5月19日,工信部下发《关于计算机预装绿色上网过滤软件的通知》,要求国内生产销售的计算机必须预装“绿坝—花季护航”。但最终因该软件漏洞百出而迅速夭折,工信部随后取消这一技术强制要求。
(32)事实上,按照2017年修订的《标准化法》第2条,我国的技术标准可以分为强制性技术标准和推荐性标准两种。技术避风港更接近后者。
(33)参见宋华琳:“论技术标准的法律性质”,《行政法学研究》2008年第3期,第37-42页;何鹰:“强制性标准的法律地位司法裁判中的表达”,《政法论坛》2010年第2期,第182页。
(34)参见杨明:“‘绿坝’能否担起‘花季护航’之责”,载《民主与法制时报》2009年6月22日,第A05版。
(35)See "Landmark Ruling Against Yahoo! in Nazi Auction Case," The Guardian,20 November 2000,https://www.theguardian.com/technology/2000/nov/20/internetnews.freespeech,last visited on 15 June 2023.
(36)Scarlet Extended SAv Société Beige des auteurs,compositeurs et éditeurs(SABAM)(Case C-70/10); Belgische Vereniging van Auteurs,Componisten en Uitgevers CVBA(SABAM) v Netlog NV(Case C 360/10).
(37)See Stephen Breyer,"Regulation and Deregulation in the United States:Airlines,Telecommunications and Antitrust," in Giandomenico Majone(ed.),Deregulation or Re-Regulation,New York:St.Martin's Press,1990,pp.44-45; Richard A.Posner,"Antitrust in the New Economy," Antitrust Law Journal,Vol.68,No.3,2001,p.937.比如,在韩寒诉百度的案件中,为检验百度开发的文档DNA反盗版系统的实际效果,北京市海淀法院“组织对百度公司反盗版系统当前的运行情况进行勘验”,但整个勘验过程让人不禁产生疑虑,且不说勘验测试的系统乃是“当前”系统而非“案发时”系统,更重要的是,整个勘验过程都是在“百度公司技术人员操作”下完成,其中立性也很成问题。参见韩寒诉北京百度网讯科技有限公司案,见前注(22)。
(38)See Metro-Goldwyn-Mayer Studios Inc.v.Grokster,Ltd.,545 U.S.913,965(2005)(Breyer,J.,concurring)(quoting Sony Corp.of Am.v.Universal City Studios,Inc.,464 U.S.417,431(1984)).See also,Jack M.Balkin,"The Future of Free Expression in a Digital Age," Pepperdine Law Review,Vol.36,No.2,2009,pp.432-433.
(39)See United States v.Carpenter,819 F.3d 880,890(6th Cir.2016),rev'd and remanded,138 S.Ct.2206,201 L.Ed.2d 507(2018); Orin S.Kerr,"The Fourth Amendment and New Technologies," Michigan Law Review,Vol.102,2004,pp.807-808.
(40)本文并未将立法机关作为备选的技术评估机构对象,原因在于立法的滞后性决定了立法机关很难及时应对技术的变化和更迭。在实际的立法实践中,由于立法者无法预见现实技术演变过程中可能碰到的每一种情况,所以立法者经常用措辞宽泛的法规条文来给司法机构留足空间,同时授权具体的行政机关和在技术领域有长期经验的专职监管人员。
(41)由行政机关主导的技术避风港的审核评估,可以参考当前关于技术标准的审核与认定。参见王贵松:“作为风险行政审查基准的技术标准”,《当代法学》2022年第1期,第108-109页。
(42)See Federal Trade Commission,"Aristotle Removed from List of FTC-Approved Children's Privacy Self-Regulatory Programs," August 2021,https://www.ftc.gov/news-events/press-releases/2021/08/aristotle-removed-from-ftc-approved-childrens-privacy-programs,last visited on 15 June 2023.
(43)参见本文第二部分“(三)技术避风港的中国实践”。
(44)See Jack Balkin,"The Path of Robotics Law," California Law Review Circuit,Vol.6,2015,pp.46-47.See comparatively,Ryan Calo,"Robotics and the Lessons of Cyberlaw," California Law Review,Vol.103,No.3,2015,pp.513-529.
(45)See Anupam Chander,"The Racist Algorithm?" Michigan Law Review,Vol.115,No.6,2017,pp.1039-1040.
(46)See Saul Levmore and Frank Fagan,"Competing Algorithms for Law:Sentencing,Admissions,and Employment," University of Chicago Law Review,Vol.88,No.2,2021,pp.367-412.
(47)例如,在数据权利领域,数字基础设施的改善,就直接反映到架构控制层面。参见胡凌:“数字经济中的两种财产权——从要素到架构”,《中外法学》2021年第6期,第1581-1598页。
(48)See Balkin,supra note 30,p.1161.
(49)See Mark A.Lemley and R.Anthony Reese,"Reducing Digital Copyright Infringement without Restricting Innovation," Stanford Law Review,Vol.56,No.6,2004,pp.1345-1433.
(50)这一点也有利于整体上降低受害人的维权成本,比照“通知—删除”避风港这一优势尤为明显,因为受害人不再需要针对同一事项向每一个平台发出重复通知。
(51)参见胡凌:“从开放资源到基础服务:平台监管的新视角”,《学术月刊》2019年第2期,第96-108页。
(52)有关规则制定成本的论述,参见戴昕:“作为法律技术的安全港规则:原理与前景”,《法学家》2023年第2期,第41页。See also,Louis Kaplow,"Rules Versus Standards:An Economic Analysis," Duke Law Journal,Vol.42,No.3,1992,pp.563-569.
(53)同上注。
(54)See Gideon Parchomovsky and Alex Stein,"Catalogs," Columbia Law Review,Vol.115,No.1,2015,pp.171-190.
(55)See Kate Klonick,"The New Governors:The People,Rules,and Processes Governing Online Speech," Harvard Law Review,Vol.131,No.6,2018,pp.1598-1670.亦见高薇:“互联网争议解决的制度分析——两种路径及其社会嵌入问题”,《中外法学》2014年第4期,第1059-1079页。
(56)See Maayan Perel and Niva Elkin-Koren,"Accountability in Algorithmic Enforcement," Stanford Technology Law Review,Vol.19,No.3,2016,pp.482-483.
(57)See Lital Helman and Gideon Parchomovsky,"The Best Available Technology Standard," Columbia Law Review,Vol.111,No.6,2011,pp.1212-1219.About the "Cheapest Cost-Avoider"(最小成本规避者),see Guido Calabresi,The Costs of Accidents:A Legal and Economic Analysis,New Haven:Yale University Press,1970,pp.135,139-158.
(58)随着现代国家行政职能任务的扩张,行政资源一旦不足就容易出现监管失灵;自行规制作为克服政府行政资源不足的一项手段,可以成为政府规制的补充甚至是替代。参见(英)卡罗尔·哈洛、理查德·罗林斯:《法律与行政(下卷)》,杨伟东等译,商务印书馆2004年版,第638-639页。理论上也有对避风港作为一类自我规制的讨论。See Peter P.Swrire,"Safe Harbors and A Proposal to Improve the community Reinvestment Act," Virginia Law Review,Vol.79,No.2,1993,pp.371-378.
(59)监管俘获,指监管机构被监管对象通过相应手段所控制,进而使得监管流程的设计和实施都将服务于被监管对象的利益。See George Stigler,"The Theory of Economic Regulation,| The Bell Journal of Economics and Management Science,Vol.2,No.1,1971,pp.3-21.另有关于技术专家行政治理风险的专门论述。See Adrian Vermeule,The Constitution of Risk,Cambridge:Cambridge University Press,2013,pp.163-185.
(60)See Mihailis Diamantis,"The Extended Corporate Mind:When Corporations Use AI to Break the Law," North Carolina Law Review,Vol.98,No.4,2020,pp.893-907.
(61)有关网络平台的规则或标准与相应信息成本的讨论,参见戴昕、申欣旺:“规范如何‘落地’——法律实施的未来与互联网平台治理的现实”,《中国法律评论》2016年第4期,第93-97页。甚至,网络空间可能成为“硬规则世界”,参见冯象:“欢迎来到硬规则世界”,载观察者网,https://www.guancha.cn/fengxiang/2018_12_10_482712_1.shtml,最后访问日期:2023年6月15日。
(62)参见国家市场监督管理总局:《互联网平台分类分级指南(征求意见稿)》(2021年10月29日),载国家市场监督管理总局官网,https://www.samr.gov.cn//hd/zjdc/art/2023/art_c0086d02fcc544ea9506c997b3ac93c1.html,最后访问日期:2023年6月15日。