张本才:未来法学论纲

选择字号:   本文共阅读 1497 次 更新时间:2019-08-02 00:57

进入专题: 人工智能   以人为本   法律规整  

张本才  

【内容摘要】 未来法学是法学与未来学的交叉学科,其旨在研究未来社会关系对既有法律体系和法学理论的冲击及其应对。随着人类社会迈向未来,相应的社会关系在参与主体、发生的场域以及规制的重点等方面都将发生实质变化,奠基于农业、工业时代的既有的法律体系与法学理论并不能为之提供妥当的解决方案,因此未来法学的研究具有现实必要性。未来法学应当重点研究未来社会中的风险防范制度、法律主体制度,以及能够保障自然人在未来社会实现自由平等的制度。构建这些制度必须要正视不同制度背后的利益考量和价值关联。为此,未来法学研究应当坚持维护人的主体地位价值原则和多元利益协调的动态利益平衡原则。通过未来法学研究,可以建立一套能够适应科技发展需求,有利于科技风险防范的规整逻辑。

【关键词】 人工智能 以人为本 法律规整


作为上层建筑的法律,通过赋予主体某些权利或者课以某些义务的方式,调整一定的社会关系。社会关系的变革,最终会引发法律调整手段的革新。从目前各个法学学科的研究重心来看,主流学界仍致力于对既存的法律现象进行法理层面的解读,并试图以一种体系化的知识结构来应对各种变化。守成多于创造是这些研究的共同特点,且明显流露出以既有知识成果解决新型法律现象的倾向。然而,生活事实是变动不居的,法律不应当仅关注既存的社会关系,其同样也应当关注可预期的社会关系。这是因为,在科技迅猛发展、人类基因都可以被按照需求进行编辑的当今社会,新型的社会关系迟早会引起法律关系的变革。

对于新的社会关系变革,有学者指出,“我们正处在技术发展带来人性变化的时代。在新的时代,能率先把握这种变化的人、群体、国家,将率先主宰世界。”但从“构建人类命运共同体”的角度看,这种观点忽视了新兴技术带来的未来社会变革,很可能已经超出了个人、群体以及国家层面,而是涉及人类的存在自身。英国法学家梅因曾指出,“所有进步社会的运动,到此处为止,是一个‘从身份到契约’的运动”。这一转变过程其实就是人与人之间的“依附性降低,身份性弱化”,相互承认每个个体都具有作为人的尊严,从而实现“正义作为根本的制度原则在于,保护个人的自由平等权利”这一人类尊严的诉求。换言之,其仍然是人类之间的权利义务的平等分配关系。而新兴技术带来的社会关系变革,一方面将导致人类超越进化的限制,另一方面迫使人类不得不面对“在本世纪中叶,非生物智能将会10亿倍于今天所有人的智慧”的局面。此时,无论是法学还是哲学、政治学都将面临着对“人”的再发现、再界定的难题。正是在此意义上,未来法学的研究刻不容缓。


一、未来法学的基本界定


在明确未来法学的学科构想之前,有必要先澄清未来法学的基本内涵。以下将从概念、特征以及任务的角度,对未来法学的形象做一个简单的勾勒。

(一)未来法学的概念

法学分为广义的法学和狭义的法学。其中,狭义的法学即法教义学,广义的法学则包括法经济学、法社会学等。未来法学属于广义的法学,是一门未来学与法学相交叉的学科。

未来学这一概念系德国学者O. K.福莱西泰姆于1943年首创,用以指称对事物之未来的研究。具体来说,它指的是人们对一个动态系统的未来状态所作的预料、分析和推断,以及用未来信息反馈的观点处理现实问题的一门综合性学科。简言之,它是研究事物未来活动及其发展规律的科学。不难设想,随着科技水平的迅猛发展,人类社会很可能在未来某个时间点(即所谓的“社会形态奇点”)产生飞跃性的突破,从而促成人类社会的法律关系产生颠覆性的变化。例如,未来新型法律关系不但包含以往的自然人与自然人之间的法律关系,还可能包括自然人与类人机器人或者人工智能化后的人类之间的关系,以及由此产生的其他社会问题。

法律通过调整一定的具体社会关系的方式,实现对整体社会的调整。然而,当涉及上述新型法律关系时,既有的法律规范根本无法加以有效调整。这迫使我们不得不现在就去思考,应当如何科学合理地完善当今的法律制度,作出关照未来的规范设计,以使其能够有效调整未来社会错综复杂的社会关系。如果将这一理解运用于未来法学,则意味着未来法学关注的重心在于,在可预见的未来社会,社会发展的状况对既有的法律制度提出了哪些挑战,而法律制度又应如何回应这些挑战,以防患于未然。

(二)未来法学的特征

首先,未来法学关注未来社会的社会关系。未来法学的研究对象迥异于传统法学的研究对象。传统法学通常以既存的社会情势为研究对象,其研究任务在于通过新的调整手段解决这些既有社会情势中的法律冲突。未来法学则着眼于未来世界,致力于调整未来社会的法律关系。通过感知和把握当代社会所蕴含的客观发展趋势,这些新型的法律关系能够为现今的人们所预测。正是由于未来法学呈现出面向未来的特征,它所关注的对象也必然呈现出不同于以往的独特性。亦即,它最终所调整的对象必然是那些在当今社会尚不存在的事物。未来法学的对象“尚不存在”,并非是说这些对象毫无现实根基,而是说这些对象是现有事物的未来形态。形象一点来说,现存的社会现象只是一粒种子,为了确保它在未来世界中长成人类需要的模样,必须借助未来法学这把剪刀加以裁剪,方不至于任其野蛮生长,最终危及人类自身的生存。

其次,未来法学关注未来社会关系对既有的法律关系的影响。正如大量科幻作品所展示的那样,未来社会关系本身错综复杂,“对当下的伦理标准、法律规则、社会秩序及公共管理体制带来一场前所未有的危机和挑战。它不仅与已有法律秩序形成冲突,凸显现存法律制度产品供给的缺陷,甚至会颠覆我们业已构成的法律认知”。对于未来法学而言,其关注未来社会关系的变迁是带有目的性的。它并非不分巨细地关注未来社会的所有变迁,而是侧重于从社会变迁和法律调整的角度关注未来社会变迁的法律意义。亦即,其关注点在于:未来社会关系的变化是否会引起重大的法律关系的变迁?这种重大的法律关系的变迁表现在哪些方面?对于今日的法律关系的规定而言,它们将会带来哪些重大影响?

最后,未来法学尝试对未来社会关系的规制提出相应的法律对策。未来法学之所以关注未来社会关系及其对既有法律体系或者法学理论的冲击,根本目的在于为未来社会中的法治建设提供可资参考的标准。这是因为,一定的法律关系是一定的社会发展阶段的产物,随着社会的发展,在未来社会必然会产生不同于今日社会的法律关系,它们势必会对基于既往经验建构的法律体系或者法学理论体系产生冲击。法治本身就是规则之治,如果不能建构起合理、有效的法律规则体系,未来社会必然会陷入混乱状态。为了防止出现这种局面,未来法学研究必须提供各种可能的法律对策选择,这些可供选择的各种对策应当能够展示出各种价值利益的冲突及其后果,以尽可能地帮助规则制定者在立法时作出合理的抉择,从而有效地规制未来社会中的新型法律关系。

(三)未来法学的任务

首先,促进法学研究领域的扩张与法学原理的革新。一切法律体系或者法学理论都可以被分为原理和技术两个部分。原理部分属于根本的价值取向或者制度的价值基础,技术部分则只不过是实现原理的手段。例如,私法自治是民法的核心原理,而法律行为效力的设计则是实现这些原理的手段。然而,就今日的研究现状而言,在论及最新的技术成果对于现有的法律关系的冲击时,很多学者往往着眼于技术层面的问题,而不是去深究背后的法律原理。例如,对于人工智能能否成为法律关系的主体,人们关注的往往是技术层面的问题,而不关心法律关系主体在法的原理上的意义是什么。

其次,提供应对未来社会关系变革的体系性的解决方案。尽管人工智能、生物技术、基因编辑技术等已经逐渐渗入人类生活的各个方面,并展现出对既有法律体系和法学理论的冲击,但对于这些新问题可能导致的系统性的社会变革,大部分的法学研究者仍缺乏综合性的研究,仅致力于对传统法学理论进行精耕细作,或者局限于部门法的窠臼,寄希望于既有认知成果,企图“以静制动”。然而,这些新型问题的解决绝非某一单个法律部门所能胜任。以2017年在我国出现的首例“冷冻人”为例,如果以未来的眼光来看,该事件会同时涉及多个法律部门,如行政法、民法、刑法等,此外还会涉及法伦理学等。具体而言,如果根据现有法律标准宣告“冷冻人”死亡,倘若随着未来科技的发展,已经有成熟的技术可以成功复活“冷冻人”,则对于破坏尚未解冻的躯体的行为,究竟是否构成故意杀人罪,就会产生极大的争议。与此相关的问题还有,如何从法理层面阐述“冷冻人”是否具有法律人格,如何从民法上、婚姻法上确认“冷冻人”的法律地位及其财产归属,如何从行政法层面对“冷冻人”进行管理等等。我国目前已经有学者意识到了“冷冻人”问题的复杂性,认为由“冷冻人”引发的“死而复生”问题已经超越了现有法律框架。其成为现实之日,将会给人类的伦理与法律制度带来重大改变。与之相类似的还有2014年在我国出现的首例冷冻胚胎归属案。对于此案,也有学者明确认为,现有法律无法做出有效调整,需要增设诸如《早期人类胚胎法》来解决。可以说,上述所有这些问题,不是某一单一的部门法所能解决的,必须不同的部门法协同并进,才能给出妥当的解决方式。由此足见未来法学涉及的法律领域之宽泛,以及追求不同法律领域之间的体系协调的重要性和必要性。

最后,未来法学作为一门接近于法政策学的法律科学,必须通过采用不同学科的研究方法,才能保障研究方向的正确性、研究对象的客观性和研究结论的可靠性,进而达致制度构建的可行性。未来法学的研究对象主要为未来世界的新型法律现象。而在未来法学所关注的那些新型社会现象中,这些新型社会可能并非关注的重点,毋宁说这些领域的科学和技术的发展对人类自身的冲击及人类对此所作的法律层面的应对,才属于为未来法学所真正瞩目的问题。但不可否认的是,法律能在多大程度上有效地回应社会的需要,管理者能在多大程度上对新的科技发展进行有效的监管,最终仍取决于这些领域的发展态势。例如,人工智能可能更多地与计算机技术、物理学以及数学紧密相连,而器官移植、冷冻胚胎、基因编辑又与医学水准息息相关。这就要求未来法学的研究必须关注这些不同领域的发展态势。此外,由于始终需要维护人类的主体地位,未来法学的研究还必须均衡考虑不同利益主体的利益需求,这在一定程度上又必须进行法社会学研究、法经济学研究,甚至必须考虑伦理学方面的相关成果。


二、开展未来法学研究的必要性


“法律只能在其毫不脱离民众生活实际情况下才能实现其效力,否则民众生活就会拒绝服从它。” 正因如此,很多人认为法律以及法学具有保守性。如果从这样的角度看,在未来社会关系发生全部变更时,再进行相应的研究也不迟。但是,我们不能忽视的是,社会关系并非骤然而变。如果详细考察今日社会发展的现实情势,并预测其在未来世界可能产生的蝴蝶效应,我们就会发现,对于未来法学的研究,“犹水之就下,沛然谁能御之”。

(一)社会关系的内涵正发生实质变更

法律一经制定即已僵化,但是法律所拟规定的社会关系自身并非静止不动。最新的科技成果逐步渗透到社会生活的方方面面,使得社会关系正发生着巨大变化。具体表现为:

首先,随着人工智能、基因编辑等先进技术的日益发展与完善,形成社会关系的主体正逐渐多元化。传统观点一般认为,社会关系是人与人之间的关系。随着科技的发展,自然人作为社会关系主体的局面很可能被迅速打破。人工智能技术的开发和运用,使无人工厂、无人超市逐渐普及,人工智能将取代人类从事生产、交易等一般的经济活动。微软小冰出版了《阳光失了玻璃窗》诗集,使得一直被视为人类智慧结晶的文艺创作领域,也开始有了机器人的参与。美国Narrative Science预测,未来15年将有90%的新闻稿件由机器人完成,大量的美术、音乐等艺术作品也将出自人工智能之手。甚至在一些颇具伦理色彩的生活领域,也不乏人工智能的身影。例如,美国女子科普的丈夫斯图尔特因脑瘤去世。其父为她制造了一个外貌、身材,甚至声音都与斯图尔特一模一样的机器人。相处久了,科普不自觉地把它当作了自己的真丈夫。她经常与它依偎着外出,快乐地重温以往的经历。虽然现在的人工智能还无法企及与人类相媲美的高度,但不难预见的是,随着科技水平的不断提升,在未来社会中,具有自主学习能力的人工智能终将在某一刻横空出世。彼时,人工智能可否作为新的社会关系的主体,将成为人类根本无法回避的现实问题。

其次,随着互联网技术的发展,社会关系的存在场域正逐渐超越物理时空的限制。“早前的农业革命和工业革命,在根本上乃是通过技术工具来大幅提升人的自然活动能力和范围,自古以来人类所赖以存活的、天然给定的物理空间并未因其发生改变。”然而,随着信息社会的到来,“人类通过互联网技术创造了一个与实体空间相平行的网络空间”。在虚拟的网络空间,人们的交流方式、娱乐方式、交易方式发生了极大的变化。“被电子化的信息可以虚拟地存在于任何地方,而且有关当事人借助互联网也可以虚拟地存在于网络空间的任何场所。”甚至还有人正在从事人机结合的研究,以期实现人类意识的上传或下载。不仅如此,与物理空间相平行的网络空间,也逐渐改变了国家、社会以及个人之间的关系,使得权力与权利之间的关系发生结构性转向。科学技术的发展,使得人类可能利用各种方式克服进化的限制,同时也使得社会关系的存在场域在一定程度上脱离了时间的限制。前述“冷冻人”的案件即为示例。又如,2017年11月17日,Canavero宣布世界第一例人类头部移植手术已经在一具遗体上成功实施。再如,如果人的意志真能下载保存,不难想象拥有不朽身躯的人机结合终将出现。而我国的科学家们则率先提出了“人工智能2.0”的概念,将人机混合智能作为其重点研究方向之一。所谓的人机混合智能“是一种新型智能形式,它不同于人的智能,也不同于人工智能,是一种跨物种越属性结合的下一代智能科学体系”。这些技术如果真正走向成熟,作为法律关系的主体最终也将摆脱时间的桎梏。

最后,上述新变化也将使得社会关系本身变得日益复杂。一方面,如何协调自然人、人工智能、人机结合的人以及通过生物、医疗技术改造过的人等多元社会关系主体之间的利益,将成为不得不面对的问题。另一方面,“互联网+”的普及,使得社会交往活动一定程度上可以基于算法计算,但是,在网络活动参与去中心化的背景下,这也会衍生出如何重构国家、个人在网络世界中的权(力)利义务关系的难题。新的科学技术虽然给人类生活带来了各种便利,但是,由于人类掌握信息的有限性和片面性,我们并不能以上帝视角洞察这些技术可能给人类社会的存续带来哪些风险。总之,新的科技手段层出不穷,潜移默化地影响着社会关系产生变革,使社会治理面临着越来越多的不可测因素。

(二)社会关系的变更使既有的法律、法学理论面临严重冲击

从历史上看,“划时代的伟大发明都曾引发法律世界的革命”,最新的科技成果促成的社会关系变革,正冲击着基于传统社会关系发展出来的法律秩序和法学理论体系。

社会活动参与主体的多元化,引发了作为风险承担者和利益享有者的法律关系主体是否也应当多元化的争端。传统法学理论坚信,“凡是人以外的不具有精神、意思的生物归属于物,是为权利的客体”。但是,在人工智能具有深度学习能力、进行自主决策的强人工智能时代,人工智能将会在很大程度上替代人类作出决策,人工智能与人类共生将可能成为一种常态。此时,应当如何定位人工智能的法律性质?例如,人工智能程序深度学习他人享有著作权的信息、作品等,可能涉嫌非法复制他人作品,从而构成对他人著作权的侵害,而如果进行所谓的创作活动,是否可能涉嫌剽窃。再如,现在无人银行、无人商场已经开始出现,为了显著提高政府部门的行政管理效率,政府机关在将来利用人工智能机器人进行管理,也并非骇人听闻的不可能之举。而且,随着科技、生物和医学的进步,人类完全有可能超越进化限制,走向自主进化的道路。前文提及的人体冷冻技术和换头术就是典型示例。如果真出现这种局面,传统的婚姻关系、继承关系应当如何处理,势必将成为十分棘手的难题。因为,冷冻人在法律上究竟属于活人还是死人直接关系到婚姻和继承关系的安排。对于换头术而言,也同样会面临以下难题:在法律上,换头之后的人的人格与换头之前的是否具有同一性?如果不具有同一性的话,以前所形成的法律关系必然都需终结。可见,对于多元社会关系主体的法律定位,直接关系到不同社会关系主体之间的利益和风险的分配方式。

此外,社会关系的存在场域转向虚拟空间,使得以物理空间为基础而产生的社会关系的法律规制方式逐渐显现不足。有观点甚至认为,“你们的财产、表达、身份、活动和条件的法律概念不适合我们。这些概念建立在物质基础上,而我们这里没有什么物质”。即便这种论断有夸大其词之嫌,也在很大程度上道出了虚拟空间给现代法律造成的困境。一方面,“随着网络信息规模急剧增长以及网络通讯渠道的开放化,国家控制信息的能力正面临着严峻的挑战”。“犯罪分子实施的是跨空间作案,大多数案件没有传统意义上的犯罪现场,缺少或基本没有犯罪痕迹,也没有受害人或证人对犯罪嫌疑人的指认。”区块链的去中心化和用户匿名特征,使得“我们无法禁止交易的发生,也很难找到非法行为背后的始作俑者。这一现状,将是区块链监管面临的巨大挑战”。另一方面,网络时代产生的数据和信息等导致物权和债权二分的财产法制度已经不能妥当概括现实生活中的新情况。“在数据原生者、衍生者、交易者、使用者等角色之间,谁才是这些数据权利的主体,数据权利义务如何分配,如何公平占有数据和抑制数据垄断,如何合理使一个数据、数据权利和个人因素受到侵犯如何进行救济等,都是必须回答的时代课题。”体外辅助生殖技术、基因编辑等技术的发展,也使得主体和客体的二元区分不再是描述法律关系构成要素的妥当方式。

既有的法学理论对于法律关系的主体奉行的是自由律,而对于法律关系的客体等奉行的则是因果律。但是,最新科技成果的发展,使得自由律和因果律的区分效果日趋削弱。一方面,无论是一个群体还是作为一个个人,其行为模式和偏好都可能通过海量数据被分析获得,人的消费、选择很可能是被诱导而做出的,而非真正自由自主的选择。另一方面,传统的调整法律关系的重要手段是通过抑制一定因果流程的方式,抑制物理性的损害后果的发生,但对于科技发展带来的未知风险,人们并不能清晰地认识、把握其中的因果流程,由此导致归责的重点必须转向如何防止各种不确定风险的出现,而不再是防止结果的发生。

(三)既有的法律、法学理论体系不足以应对社会关系变革带来的冲击

如上所述,未来社会关系所植根的社会背景,迥异于既有的法律体系或者法学理论体系所预设的社会背景。尽管对诸如冷冻精子惹起的法律争议,我国司法裁判做出了相应的处理,但是对于未来社会关系可能引发的法律变革,我们不可能单纯依赖司法加以调整。原因在于,未来社会关系可能引发的法律变革具有全局性意义,涉及整个社会的根本价值,同时涉及风险防控的问题,这些均不是单纯通过司法途径就能够解决的。因此,应当通过立法的方式主动予以回应。

事实上,面临即将出现的未来社会关系的变更,不少国家和地区已经开始作出积极反应。例如,欧洲议会要求欧盟委员会把自动化智能机器“工人”的身份界定为“电子人”,使其“能够承担弥补其引发的损害的责任,并可能把‘电子人格’适用于那些机器人自主决定或其他独立于第三方交互的案件”。以上的处理方法直接套用了既存的法律概念或者体系,将一些新的现象置于既有的法律概念体系之中。如果按照这种思路,人工智能直接作为法律关系主体即可,数据和信息也可以被归入物权或者债权的范畴。而对于未来社会各种争议的解决,亦可按照传统的管辖权理论进行处理。

“特定的法律规则与其制定时的事实与法律情势密切相关。然而新的技术的发展割裂了制定时的客观情形与解释时的客观情形。”正如康德所言,纯粹理性在认识世界之际必须先检验自己的认识界限。固守传统而不勇于开辟新知,很可能陷入削足适履的困境。以法律关系主体为例:法律关系的主体是权利和义务的承担者,近代法学理论设定的作为法律关系主体的人是一种理性人,这种理性人不仅需要理智的洞察力,更具有伦理上的意义。“根据人性的和社会政策的立场,此点具有决定性意义,即权利能力不与其他任何东西相关而仅与纯粹的人的存在(blosse Menschsein)相关,这一点是基于生命的本质源于人自身。”换言之,人是作为目的而存在的。因此,作为法律关系的主体必须具有自在的价值,而不仅是为他的价值。如果我们仍然坚持这种对法律关系主体概念的经典理解,人工智能等是否具有自我学习能力并不是其能否成为法律关系主体的关键,人工智能等是否具有自在的价值才是问题的症结所在。当然,即使我们否定人工智能具有自在的价值,由于其具有深度学习能力,也不能简单地将其视为法律关系的客体,因此,传统的主客二元的法律关系设定必然要被放弃。如果我们将人工智能等新的社会关系主体升格为法律关系的主体,必然要切断传统的法律概念与其所欲实践的价值之间的关联。但是,即使如此,将人工智能等升格为法律关系的主体,也绝非意味着可以一劳永逸地解决所有问题。因为,法律对于社会关系的规整是通过权利义务配置的方式来实现的,作为法律关系的主体,必然意味着相应利益的享有以及相应义务的履行。然而,究竟根据什么样的原则分配权利和义务,并非是法律关系主体概念本身所能解决的。在社会关系日益复杂的未来社会,由于利益主体的多元化,加之科技发展所带来的风险的不确定性,导致很难根据既存的信息进行全面的功利衡量,这势必导致多元社会参与主体的利益和义务分配方式更加复杂。因此,无论我们是固守传统还是开辟新知,利益和风险分配方式的重大变革都将是无法回避的问题。既有的法学理论或者法律体系,最多只能为我们提供相应的技术性的概念工具,至于指导我们进行风险或者权益分配的规则、原理,既有的法律体系和法学理论并不能提供更多的帮助。


三、未来法学研究的基本问题领域


研究未来法学的最终的目的,在于提供可以规制未来社会关系的制度设计。如前所述,制度设计同背后的利益分配原理密切相关。因此,就未来法学研究的基本问题领域而言,应当重点关注制度建构和制度建构背后的基本原理。

(一)重点关注调整未来社会关系的制度建构

建构能够适应未来社会中的社会关系的法律制度或者对策,是研究未来法学的主要目的。从前述分析可知,未来法学如欲彰显其存在的意义,势必要能够在风险防控制度、法律关系主体制度以及保障自由、平等的制度等方面提出切实可行的建议。

建立风险防控制度是未来法学应当解决的核心问题。“人类社会本质上是一个充满非线性与不确定性、脆弱性与风险性的复杂性社会。20世纪80年代以来,随着人类社会全球化、现代化进程的加快,科技创新的持续推动,国际政治的深刻变化,人类社会发生了深刻的系统性结构转型,进入一个高度不确定和高度复杂的‘全球风险社会’时代。”对于这种社会发展的不确定性,“我们应该竭尽所能,确保其未来发展对我们和我们的环境有利。我们别无选择”。因此,通过建立各种规范系统的方式,预防风险是未来法学必须解决的问题。

然而,科技带来的风险“已经把我们带出了数学计算的安全范围。这种风险甚至超出了时空的限制:风险和危害并不仅限于事件的发生地,跨越国界乃至遍布全球是经常的事情;而且风险和危害也不仅限于现在,尚未出生的人或未来数代的人都可能受到当前事件的危害”。因此,“技术所产生的社会后果既往往无法在短时间内得到全面的效用评价,很多时候也不能进行后果计算”。例如,转基因技术以及基因编辑技术究竟会给后一世代产生何种影响?人工智能究竟是人类的福音或终将成为人类的主宰?互联网技术的发展究竟使我们获得了更大自由还是在进一步侵蚀我们的自由?又如,人体冷冻精子、冷冻人以及换头术等医疗技术,究竟会对人类族群的发展产生什么影响?由于风险的不确定性,对于以上的疑问,人们根本无法通过因果分析或者相关性分析作出说明。总之,最新的科学技术在增强人类能力的同时,也为人类生活带来巨大的不确定性。正因如此,如何平衡技术发展带来的便捷与其可能引发的不确定风险,一直是学界乃至社会舆论争议的焦点话题之一。暂且抛开基因编辑等严重冲击人类伦理道德的现代技术不谈,即使对于如何监管与伦理道德关联较弱的“互联网+”时代的社会风险,在学界就存在着“技术中心主义”“代码中心主义”以及“以人为中心”等不同的监管策略之争。

对于风险的防控必然涉及权利、义务分配,这种分配本质上也是一种风险分配机制。无论权益分配或曰风险分配,必然要落实到一定的法律主体之上。亦即,哪些社会关系的主体可以享受法律上的权益,哪些社会关系的主体应当负担法律上的义务。在未来社会中,法律关系主体制度面临的主要问题是,人工智能软件及网络、超高仿真机器人、克隆人以及数字化后的人类或者可复活的“冷冻人”等是否具有法律关系主体的资格。如果赋予其法律关系主体的资格,除了涉及应当设定何种权利或者义务,以防控由此可能引发的不确定风险的问题,同时也将无可避免地对我们今日常见的各种法律关系造成冲击。例如,民法中的损害赔偿关系、婚姻关系、继承关系,刑法中的刑事责任的承担方式等等。客观而言,无论人们是否将相应的社会关系参与者升格为法律关系主体,都不得不面对这一系列难题。因为在未来社会中,无论是在规范层面上强调自然人优越于人工智能或者人造人,还是强调自然人与他们在法律地位上平等,都难以逃脱自然人可能成为弱势群体的困局。因此,未来法学更肩负着实现建构平等自由的未来社会关系的重任。

如何维护平等的社会关系,是未来法学必须解决的问题。在未来社会,作为社会关系主体的自然人将面临更加严峻的竞争关系。一方面是与人工智能的竞争。在过去的五十多年中,人类已经使用机器人技术来替代人们去做一些通常脏乱不堪、枯燥乏味或者危机四伏的事情。现如今,机器人技术已经广泛应用于生产制造、专业服务、交通出行、卫生保健、公共安全以及空间探索等各个领域。可以说,机器人技术已经逐渐全面渗入人类生活的各个角落。在此过程中,虽然人工智能等替代的仅仅只是人类的重复劳动,而绝非人类本身,但是,“我们并不确定,所以我们无法知道我们将无限地得到人工智能的帮助,还是被藐视并被边缘化,或者很可能被它毁灭。聪明的机器将能够代替人类正在从事的工作,并迅速地消灭数以百万计的工作岗位”。另一方面,自然人还面临着与掌握优势资源的自然人的竞争。例如,能够享用相对较好的生物科技便利的人和不能享用这种成果的人之间的竞争。诚如有观点所指出的那样,诸如生殖细胞等基因编辑技术的价格十分昂贵,并非任何人都有能力负担,因此,这些技术的运用容易引起社会的不公。对于那些能够借助最新医疗技术或者其他科技而超越进化限制的人而言,他们或者他们的后代,更易于稳居社会阶层的顶部,而其他自然人及其后代,则很可能永远处于社会的底层,由此导致阶层固化,人类社会成为“北京折叠”般的存在,从而形成技术倒逼人类社会退步这种畸形而吊诡的现象。彼时,近代以来人们朝思暮想、梦寐以求的人人平等的社会,终将化为泡影。

如何维护人类的自由也将是未来法学必须解决的问题。自由是实现人格全面发展的重要保障,在民法中体现为私法自治原理,在刑法中则体现为罪刑法定原则和责任主义原则。但是,最近的技术发展在给人类生活带来巨大便利的同时,也展露出其对人类自由可能造成巨大的消极影响。“大数据技术让人的思想、行为都变成了可分析、建模、计算、预测的数据,过去难于进行数据分析的人的自由意志便成了可理解、计算的数据。这样,一切皆被纳入可数据化、可分析预测的理性分析范围,自由意志就不再自由,每个人就变成了真正的透明人。”对此,在国家、利益团体与私人之间的关系层面,掌握优势资源的国家或者利益团体,很可能借此影响私人生活的方方面面,甚至通过信息操纵,影响私人的政治取向和立场,实现不正当的政治目的。而在私人与私人之间的关系上,即使在今日,恶意收集个人信息、广告骚扰、电信诈骗等早已屡见不鲜。而那些掌握大数据的企业,更是频繁利用其掌握的数据信息去影响个人的选择,用以实现其商业目的或者其他目的。

(二)必须正视制度设计背后的法律原理

“国家必须通过法律对技术发展进行回应、保护或促进,但在立法上,如何以法律回应技术发展和进步,始终存在分歧和争议。”对于制度的构建而言,其背后往往隐含着功利主义和伦理主义之争的投影。前者表现为利益的问题,后者表现为道德伦理的问题。

德国法学家耶林曾力倡为权利而斗争,其很大程度上就是为利益而斗争。实际上,现代立法以及法学理论所不懈追求的,不过是建构一个合理的利益分配机制。这种利益分配机制即为由谁享受利益、由谁承担风险的问题。例如,在无人驾驶技术应用中,如果不承认无人驾驶汽车是法律关系的主体,那么风险只能由产品研发者、驾驶人或者制造人负担,在以上主体并无过错时,只能认为损害属于应当由被害人自己承担的不幸后果。然而,如果承认无人驾驶汽车属于法律关系的主体,那么,风险将被转嫁给无人驾驶汽车,研发者或者产品制造者将不用负担任何责任。显然,后一种归责方案更有利于研发者和产品制造者,便于鼓励他们勇于进行科研探索,但是,由此导致的不利后果可能是,他们怠于将科研经费用于对技术安全的迭代升级。因此,各种制度的设计往往涉及不同利益主体之间的利益分配问题,利益分配同时意味着风险的分配。正因如此,一些学者指出,“面对自主机器智能机器人,人们将需要开始审视既有的产品责任制度能否在制造商利益和消费者利益之间实现平衡。”再如,基因编辑的法律规定同样也涉及利益分配和风险分配的问题,特别是在对生殖细胞进行基因编辑的情形中,这种利益或者风险还可能传递至下一个世代,进而涉及世代之间的正义与平等的问题。

以上示例足以表明,任何制度安排的背后,均涉及对利益分配和风险分配的考量,而这种考量,又往往涉及道德或者价值的问题。即便认为科学技术自身是中立的,也不能就此认为,其对社会关系的影响也是中立的。“科技就是一个受制于价值判断的评价问题;或者说,科技告诉人们我们可能做到的是什么,而伦理道德之类的价值判断在这个可能的范围内,划出一个被允许或被禁止的范围,所以科技问题实质上是个价值问题。”这一点在基因编辑技术中表现得尤其明显。人们之所以会产生重大争议,原因就在于除安全性外,伦理是基因编辑能否在人胚胎上加以应用的重要影响因素。智能机器人的法律地位也同样涉及该问题,有观点认为,“历史地看,法律可以赋予公司等法人地位,甚至承认非法人组织(比如合伙)也可以享有一定的法律地位,在未来时机成熟时赋予智能机器人法律地位,也未尝不可”。但是,这种观点“既没有充分展现技术的客观属性和社会维度之间的关系,也忽略了法律背后更为复杂的价值世界”,以致过于强调了法律拟制的技术特征,而忽视了法律主体地位背后所具有的伦理价值。因此,在进行制度设计时,不仅要考虑究竟有哪些利益需要平衡,更要考虑的是,对于这些不同利益的取舍将会影响到哪些价值,其是否会抵触人类社会公平正义的底线。例如,在“尊重和保障人权”成为国家义务的当下,在国家层面进行制度设计时,就必须实现尊重和保障人权这一最低限度的道德要求。


四、建构未来法学研究的基本设想


拓展法学研究领域只是未来法学研究的一个表现,其更为直接的现实意义在于,通过在法理层面对未来社会关系、法律关系的图景进行预测性思考,反思现有法律规定之不足,为进一步完善相关立法建言献策,从而确保科技成果真正为人类的福利而存在。为了确保对未来法学的研究能够始终服务于该目的,在具体研究工作中应当遵循以下几个基本原则:

(一)维护人类主体地位是未来法学研究应当坚持的基本价值立场

尽管随着科技成果的日新月异,当今人类社会已然面临着诸多前所未闻的法律难题,但其中,惟有人类本身的生存与发展这一亘古不变的话题,才是勾连未来法学与传统法学,并因而能够为未来法学的存在提供正当性依据的核心所在。因此,未来法学的研究应当坚持维护人类主体地位的基本价值原则。

首先,要妥当处理人工智能等的法律地位。既然研发人工智能系统和生物科技的根本目的在于服务人类,那么其始终只应被定位为促进人类福祉的工具。由此出发,在法律层面就应当一直坚持只有人才可以成为法律关系的主体,并禁止赋予纯粹的人工智能型机器人以法律主体地位,否则随着未来社会对这些机器人的依赖程度逐步提高,其极有可能反仆为主,继而奴役甚至消灭人类。目前而言,通过信息网络系统,人类的大量行为数据已经被人工智能所收集、监管,在未来社会,强人工智能机器人经过不断自主学习,将极大地提升自己的监管能力,其完全可以按照自己的意愿来修改个人数据、改造人类世界,使之变成其理想中的状态。从这一角度来看,沙特在2017年赋予“索菲娅”机器人以公民身份的做法,就违背了维护人类主体地位的原则,可以说是朝着错误的方向迈出了危险的一步,不应为其他国家所仿效。即使我们承认人工智能具有自身的利益,也不意味着必须将其升格为法律关系的主体。因为,“人工智能要获得保障、不得随意毁伤、删改,这也可以通过对人工智能设计、使用者的行为加以规范达成,不必将人工智能拟制为主体。人类不得对他人财产加以毁损,难道这些不得毁损的东西都必须拟制为主体才能获得保护吗?”再者,即使需要弥补人工智能对他人权益造成的损害,也可以通过建立完善的保险制度,或者由其使用人作为监督管理者承担相应的责任,而这些都不要求人工智能必须升格为法律关系的主体。

其次,要设定人类自我完善的界限。作为自然人,“爪牙不足以供耆欲,趋走不足以避利害,无毛羽以御寒暑,必将役物以为养,用仁智而不恃力,此其所以为贵也”。因此,对于人类而言,只有借助智慧和伦理规范,才能使人类的生存和持续发展成为可能。对于社会的发展而言,作为人类智慧物质表现的技术进步发挥了极其重要的作用。无人驾驶技术、无人工厂等使人摆脱了繁重的劳动,医疗科技的发展使人克服了很多病痛的折磨,使人类拥有了更加美好、幸福的生活。可以说,借助这些科技成果,人类在一定程度上摆脱了自然进化的限制。但是,人类借助科技成果摆脱自然进化的行为,并非没有任何界限。人类是作为一个族群而整体存在的,对于那些虽然能够完善个体,但却不利于人类整体存续发展的科技成果,应当进行严格限制。例如,对于只保留人的意识的人机结合技术,就应当被明令禁止。因为,如果这种技术研发成功并被广泛采用,人类将成为人机结合体,不再需要通过生殖繁衍下一世代,这将导致人类不能再作为一个族群延续下去。将基因编辑技术应用于人类生殖细胞的技术也应当受到严格限制。一方面,应当严禁以增强功能为目的对体细胞和生殖细胞进行编辑。另一方面,对于疾病的治疗而言,基因编辑技术也只能作为最后手段发挥作用。只有在缺乏其他有效治疗方法的前提下,才能对生殖细胞进行基因编辑,以治疗严重的遗传疾病。基于同样的理由,对于人体冷冻技术的适用,也同样应当坚持最后手段原则。之所以对医疗技术的应用作出严格限制,旨在维护人类社会世代之间稳定和谐的生活秩序。在现实生活中,由于每个人的生长家庭、生活环境以及获得的资源不同,作为个体的自然人确实存在差别。而人类今日设计的各种制度,在一定意义上,则是强调通过后天的教化或者其他制度设计,在一定程度上改变这种先天性的差异,力求打造一个公正、平等、有序、充满活力的社会。但是,由于人类天生的不平等性,必然导致的后果是,个别群体能够借助科技实现某些目的,但绝大部分人却没有这种便利。因此,本应服务于人类整体幸福生活的生物科技,最终可能仅会被用于满足个别人的需求。这将进一步强化少数群体对大多数群体原本就享有的优势,更会从根本上瓦解通过民主制度建立公平、高效、有活力的社会的努力。

最后,维护人类的主体地位,要求未来法学的研究应当遵守人类社会共同的伦理道德与法律文明。为确保未来法学的研究能够真正贯彻以人类为中心的理念,在研究未来事物所可能涉及的法律问题时,首先必须要严格遵守人类社会的共同伦理道德。正如学者所指出的那样:“道德的目的,从其社会意义上来看,就是要通过减小过分自私的影响范围、减少对他人的有害行为、消除两败俱伤的争斗以及社会生活中其他潜在的分裂力量而加强社会和谐。”由此足见道德对于社会可持续发展的重要性。就此而言,即便未来法学的研究对象在于事物的未来状态,但鉴于人性的稳固性,在具体研究中绝不能背离人类社会的基本伦理道德要求。而如果从未来法学所具有的促进国家竞争实力、推进世界和谐发展这一作用来看,此处所指的社会伦理道德就不应仅局限于我国视域内,而是应当立足于整个人类社会的共同伦理道德。并且,由于世界各国的正常交往需要借助彼此互认的通行法律规范方可实现,而“达到具有约束力的、原则上得到承认的社会道德的最低限度是法的必备要件”,因此,在未来法学的研究中也必须遵循人类社会已经达成共识的基本法律价值观。

(二)多元利益的动态平衡是未来法学研究应当秉持的利益观

首先,未来法学应当注意平衡国内利益和国外利益。尽管人类社会始终无法摆脱生存竞争这一自然法则的束缚,国家的概念仍可能因此而继续存在,但当强人工智能时代来临时,盲目追求一国一时的竞争优势是危险而可怕的,其终将导致整个人类而非仅是对立国家的毁灭。对于未来社会而言,各国具有共同的利益。这种共同的利益表现为:一方面,随着人工智能或者新兴技术等不断发展,在未来社会中的竞争,不再仅仅是人类族群内部的竞争,而很可能是人类与非人类的群体之间的竞争。另一方面,“如果说传统工业时代的法律媒介是主体性与叙事性,信息时代的法律媒介则是讯息性与沟通性,它以去疆域化的方式重新再疆域化……传统国家规制与国际规制已部分失效,因为全球互联网呈现出自我监管的趋势。互联网的自我立法,一方面利用互联网自己的电子约束技术,另一方面,这种电子约束手段又受到基础法律规范的约束”。因此,在互联网领域的治理需要各国的共同协作。就此而言,目前各国极力推动人工智能技术的发展,力保未来世界仍有强劲竞争力的做法,就值得认真反思。无论未来怎么发展,“人与人之间关系的规则必然是在一个限定了生活财富储量的世界中的人与物之间关系的规则,也就是物在人们之间分配的规则”。为了确保分配规则的合理性从而可以普遍地为人们所接受,人们就不得不对各种相互竞争乃至冲突的利益进行排序,从而大致确立它们之间的相对重要性。该过程即为对各种利益的衡平。考虑到这一点,在未来法学的研究中,就必须要对包括国内与国际在内的各种可能存在冲突的利益进行衡平,基于人类命运共同体的理念,以大国的眼光来对待未来世界的各种利益如何在法律层面进行分配的问题。

其次,未来法学也应当注意平衡个体利益和整体利益。以生物科技为例,其目的在于使人类克服病痛之折磨,从而享受更加美好、幸福的生活。尽管生物科技本身的目的是服务于作为群体的人类,但其不可能脱离具体的个人来实现该目的。但是,在现实生活中,由于人的实际不平等性,对于新成熟的科技成果,往往总是由占有绝大部分财富的少数人先享用。因此,我们永远都必须防止,极少数人垄断性地掌握和支配这些技术。因为,生命和健康是人性尊严的载体,垄断性地控制和支配那些直接影响人类的生死和生存质量的技术,无疑是对人性尊严最根本的控制和践踏,使得生物科技沦为少部分人的特权,最终违背了其服务于人类整体幸福、健康生活的诉求。因此,对于生物科技的开发和应用而言,需要平衡群体和个人的利益。

再次,未来法学在进行制度设计之际,还应当注意平衡现实利益和长远利益。“技术所产生的社会后果既往往无法在短时间内得到全面的效用评价,很多时候也不能进行后果计算。”因此,即使进行利益平衡,很多时候也难以全面地把握利益的构成方式,对于这样的问题,我们面临的难题是如何平衡现实利益和长远利益。例如,在是否承认机器人婚姻的问题上,应当必须兼顾当事主体的利益与人类作为一个族群的繁衍和延续的利益。又如,在大规模地采用人工智能代替自然人工作的同时,必须考虑到,这虽然在短期有利于提升生产效率,但从长远来看,大量的失业人口反而不利于社会的稳定,也不利于购买力的提升,由此导致经济活动无法保持良性循环,这必然会影响人类的繁衍生息。

最后,未来法学研究中的多元利益平衡应当是一种动态的平衡。人类社会一直处于动态发展之中,这种发展既包括科学技术的发展,也包括价值观念的变更。科学技术的发展,意味着未来法学对于科技带来的不确定性的评估,必须随时更新,对于各种利益状态的预测也会随时发生变化。而价值观念的变更,则意味着在未来法学研究中,对于各种不同利益的权衡,也同样会发生变迁。就此而言,对于未来社会中多元利益平衡,未来法学研究必然要为之创设一种适应社会发展的动态化的多元利益平衡机制。

(三)防控未来社会风险的规整逻辑

在以人为本的价值立场选择以及多元动态利益平衡的基础上,对于未来社会中的风险防控,应当遵循如下的规整逻辑:

首先,在规整目的上,应避免为监管而规整。一方面,法律规整的结构决定我们在规整目的选择上,应当避免为了监管而进行法律规整。法律规整的方式是通过权利(力)或者义务的配置,引导规范接受者从事一定的行为或者不从事一定的行为。法律规整的本质是一种利益和风险的分配关系。从这个角度看,法律规整强调的是通过设定权利义务关系对利益和风险进行合理分配。因此,对于未来社会中可能存在的风险防控,在制定行为规范时,应当重视对隐藏于法律规范背后的利益和风险进行衡平,从而正面引导各方的行为,以实现风险防控的目的。另一方面,就导致社会关系发生变革或者说可能潜藏社会风险的科技而言,其本身也具有正向价值,它除了可以为人类生活提供巨大的便利,甚至还会改变人们的世界观,由“地心说”到“日心说”的科学观念的变革就是一个显著的事例。我们不能片面地认为,法律对未来社会关系的规整,即为公权力对引发社会关系变革的科技研发或者应用的监管。这种看法不但忽视了“技术实践和法律实践背后的价值世界的复杂性”,同时也忽视了“技术的社会建构价值,也破坏了法律实践的自主性”。正因如此,有学者以人工智能的监管为例指出,几乎所有围绕人工智能进行的法律相关研究,都仍将法律作为一个常量处理,但是,如果要更为全面地认识人工智能与法律之间的关联,则有必要将法律也作为一个变量。在科技研发或者应用过程中,会自主地形成一定的规则,如果完全以监管的态度进行法律规整,将忽视这些可能具有现实合理性的规则体系,进而忽视其对于实现风险防控和利益分配所可能具有的重要意义。

其次,应当根据科技成果可能引发的风险程度,设定对未来社会关系的规整强度。不同的科技成果对人类利益的影响程度不同,越能为人类带来巨大危险的科技研发和应用活动,越应当加强规整强度。规整强度指的主要是限制科技研发、限制科技应用的程度。对互联网的规整强度应当弱于对基因编辑等生物科技的规整程度。因为,互联网不会对人类的生存和发展产生巨大危险,而基因编辑等生物技术则很可能对人类的世代生存产生巨大影响。同理,对以医疗为目的的人体冷冻手术的规整程度应当低于对人工智能的规整程度。因为“众多科幻电影、未来学家早已警告人们:人工智能若不受控制地发展下去,将会灭绝人类。即便不会使人类灭绝,人类也绝难接受与机器人共同治理社会、分享资源的局面”。另一方面,“技术发展不是线性的,而是呈现多样性和代际性特征”。因此,对科技研发和应用的规整方式应当随时调整。例如,如果出现了新科学研究证明,某一项科技应用将不会产生风险,或者出现了能够控制该风险的新的技术,那么,就应当解除或者限制对于某项科技研发或者应用的规整强度。

最后,在规整关系中应当重视多元主体的参与。在现代国家,一般由国家垄断了所有制定法律或者执行法律的权力。但是,在涉及到科技研发或者应用的规整问题时,应当重视多元主体的参与。例如,对于网络空间的规整,其涉及的利益范围,在很大程度上已经超越一国的领土,因此,在一定意义上,对于网络空间的规整应当重视国际合作。又如,对于基因编辑、人工智能等技术可能带来的技术风险,科技研发者或者应用者往往更具备专业知识,因此,在形成法律规整的内容时,必然要尊重他们的意见。


五、余论


尽管未来法学的研究有着极为重大的理论价值与极其深刻的现实意义,但就现实状况而言,目前的未来法学研究仍面临诸多难题,主要表现为以下几个方面:

一是理论研究者自身重视不足,缺乏大局观。目前绝大多数的法学理论研究者只专注于探究传统的法学问题,对未来法学的研究内容不屑一顾。即便是意识到未来法学研究重要性的学者,也大多只是从自身学科着手研究问题,未能形成全局观,缺乏统一原则指导,不免存在闭门造车的情况。

二是研究素材相对匮乏。如前所述,未来法学的研究对象主要为未来世界的新型法律现象,它所侧重的是现有事物的未来形态,因此从现实角度来看,未来法学的研究对象往往仅处于“胚胎”状态,由此导致未来法学的研究素材较为匮乏,极大地考验着研究者观察现今问题的敏锐度与建构未来事物的想象力。

三是交叉研究困难大。未来法学作为一门高度交叉的学科,其研究需要统筹兼顾法学内外的多个学科,如何使各个学科在遵循未来法学基本原则的前提下展开研究,需要学者们形成基本的共识,如何达至这一点,的确存在着极大的挑战性,由此导致未来法学研究面临着一定的不确定因素。

四是缺乏相关政策、资金的支持。由于未来法学思考问题的出发点在于如何妥善应对未来社会的法律问题,其研究内容相对超前,当下效应并不明显,很容易给人以天马行空、不切实际之感。由于接受度低下,此类研究势必难以获得追求立竿见影之实效的相关政策、资金的扶持。

虽然未来法学的研究面临着上述重重困难,但在人工智能技术得到普及性应用、跨领域应用,生物科技得到迅猛发展的未来社会,人类在自主性、独立性、判断能力和实践能力等方面获得重大突破机遇的同时,也不可避免地在道德观、生存环境以及自身能力方面遭受挑战,针对该领域的研究因而具有其重大的理论价值与现实意义。尽管我们希望在未来社会当中,“人是机器的尺度”,然而,当人类为了增强自身能力而不断改造自己的身体,最终以生化电子人“赛博格”之类的形态出现时,普通人类又当如何自处呢?尽管我们可以在法律意义上仍将其视为人,但面对这种业已机械化或者通过生化改造的人,或许我们现在就需要反思的是,超越了生死限制的人,其存在的全部意义和价值是否由此消弭殆尽?毕竟,正是由于生命的短暂,人类才会赞叹其伟大,才会认为其美好,才会有道德的产生与正义的诉求,才会有法律的生长空间,并使稳定可期的社会秩序成为可能。由此可见,未来法学的研究必须要正视“人何以为人”这一终极问题。在这一古老而恒久的话题面前,未来法学研究所面临的困难,由此可见一斑。而如何作出解答,则是我们法律学人现在就应当深思、慎思的一个重要问题。为此,研究者需要在保有充分理论自信的前提下,脚踏实地地通过各种努力逐步克服困难,为未来法学研究寻求可能的发展方向。唯有如此,才能够使未来法学的研究真正打破现有研究瓶颈,取得具有实用价值的研究成果,从而为现有各个科技领域的研究提供具体的法律指导规则,进而为人类社会在未来世界得以延续奠定坚实的法律基础。

作者单位:上海市人民检察院

来源:《法学》2019年第7期。



    进入专题: 人工智能   以人为本   法律规整  

本文责编:陈冬冬
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 法学 > 理论法学
本文链接:https://www.aisixiang.com/data/117540.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。

相同作者阅读

Powered by aisixiang.com Copyright © 2024 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统