【摘要】 伦理性并不是民事主体的必然要求。“人可非人”到“非人可人”的历史演变阐释了民事主体只是社会需要的法律形式。法律对民事主体的承认基于现实需要，根基在于以人的利益为中心的功利主义，以此作为判断是否承认智能机器人民事主体的功利标准。以法律工具主义为中心的权利与义务应是认定民事主体的法律标准。以此，赋予智能机器人有限人格具有理论基础与实践需求。智能机器人必须以权利义务的承担者身份参与到民事法律关系中才能解决工具主义观下责任归责的困局，也因此，法律必须为智能机器人创设特殊分责机制。人工智能技术发展必须遵循“以人为本”价值指引，且局限于工具性人格的存在，方能融洽于民法“主客体二元区分体系”，进一步丰富民事主体制度。
【中文关键词】 智能机器人；民事主体；工具性人格
人工智能（artificial intelligence简称“AI”）的革命性发展改变社会的格局，同时也带来一系列的规范问题。[1]2016年10月，美国国家科学与技术委员会(NSTC)制定了“国家人工智能研究与发展战略规划”。[2]2017年7月20日，国务院印发了《关于新一代智能机器人发展规划的通知》，人工智能取得“日新月新”的发展。但相关的法律制度却处在一种僵化而不得进展的状态。一方面，现有人工智能仍旧存在较大的技术漏洞，尤其是智能机器人缺乏自我管理能力，其行为并不属于现有法律责任体系的调整范围，同时也难以找到合适的责任主体为其承担责任；另一方面，尽管某些智能机器人具备一定的自我管理能力，但缺乏“可以谴责的内心以及可以惩罚的躯体”，也不能为自己的行为承担责任。[3]为此，“在智能技术社会化应用改变传统‘人—物’法律关系的情况下，法律治理必须优先于科技伦理，以防止传统概念的崩塌。而立法者正可以借助于法律规范在社会治理中的强大优势，塑造出新型的法定权利——这些权利或者指向人，或者指向机器人——来重新界定法律行为、法律关系、法律责任等，从而保证法律体系能够获得持续运转。”[4]可以发现，智能机器人的主体性定位已经成为智能机器人时代下法律研究的关键问题，因此，本文旨在为智能机器人的主体化发展提供一条合理的论证路径，希望为人工智能发展中的法律控制提供可以借鉴的思路。
一、民事主体人格的演变：伦理性—经济性—工具性
就历史发展而言，民法史实际上是民事主体扩张史。在古罗马时代，法律上只承认自由人以及领主两类民事主体。其后，随着“人格减等”制度的建立使得原本不是民事主体的自然人具备部分民事主体资格。直到中世纪“天赋人权”理念的兴起，人格平等的观念才扩张到所有自然人。法律人格概念历经古罗马法、近代欧陆民法以及现代社会化民法的发展过程，经历了“伦理性的涤除——伦理性的结合——伦理性的剥离”三个阶段，法律人格与伦理性的结合从来只是为了实现“消除等级差别”[5]的政治意图。传统民法对于主体独立性的认定标准也悄然转变。事实上，民法中的民事主体并不同于现实中的自然人，而是法律上确定能够独立享有民事权利或承担民事义务的伦理或经济主体。就此而论，民事主体从来都是法律承认而非法律构建的结果。在人工智能时代，伦理性不再是智能机器人是否能够成为民事主体的必要条件。
（一）伦理性人格只是近代民法发展的产物
人格制度的演变直接反映了整个民法观念、价值的发展变化。[6]自然人并非天生就具有民事主体资格，也并不是每个民事主体都是平等主体。在相对落后和野蛮的奴隶制时代，法律仅为极少数“上等人”、“自由人”服务，法律承认的民事主体也仅限于此类少数人；而中世纪时期，农奴对地主的依附关系依旧存续，直到中世纪后期，市民阶级逐渐强大，“天赋人权”全面兴起。[7]《法国民法典》制定前的民法并没有承认所有人的民事主体地位，即便在民法典刚颁布之初，仍然保留丈夫对妻子的附属权利，妻子的民事主体地位并没有完全确立。法律中的“人”终究只是立法者基于现实需要的一种确认或者虚拟，可以说，在自然人民事主体地位得以完全确立前，“人是人的工具”，人与人的区分是建立在人本身的能力大小或是其在国家或家庭中的位置。法律如此规定，其实就是“人可非人”的现实反映。在16世纪启蒙时代之后，伴随着欧洲封建社会的解体和新的社会力量的出现，古典自然法思想成为政治革命的武器，此时真正出现了“伦理性要素”与“法律人格”的实质结合，人格之取得，不再取决于“他是怎样的人”，而仅仅取决于“他是人”。[8]所有人都享有平等的人格，乃是人格伦理化的结果，而此时的法律人格是一种最为抽象化的抽象人格。德国民法构建民事权利能力制度试图以一种抽象的平等掩盖事实的不平等。而现代民法对于人的观念也开始发生转变，主要表现在从平等抽象的法律人格向有差别的、具体的法律人格转变，这也是近代民事主体制度发生的重大变迁，即从抽象人格转向具体人格。[9]
（二）功利主义推动伦理性法律人格的转变
“非人可人”的功利主义推动经济性法律人格的出现。例如，公司，合伙企业。自然人之所以能够成为法律人，是基于人的伦理性。人格的伦理性成为整个民法的精神基础及理念本源，但其伦理人格却似乎无法接纳团体人格的出现。但随着团体组织在社会生活中越来越扮演重要角色，法律必须对此作出反应，基于现实需求，团体需要人格化。“法人制度的出现纯粹是经济发展的需求导致法律技术进步的结果，是一种经济生活的客观现实与法律技术运用相结合的产物。”[10] “非人可人”的存在进一步说明法律承认民事主体地位是基于现实需求。事实上，早在罗马法后期，寺院、医院等能够作为民事主体存在；民事主体的类型是不断变化与发展的，可以说，是法律创造了民事主体，而不是民事主体创造了法律。
换言之，民事主体资格的承认尽管要考虑到伦理性，但法律发展到今天，该因素已经被弱化。法律人格的确立标准中，伦理性并不成为唯一因素，财产和责任基础的独立性以及社会功能的重要性已然成为重要考量因素。“伦理主体并不是人格的必然要求，如果没有给予主体身份，将会导致损害或者伤害，或者说这是权宜之计，甚至在一定程度上是可以解释的”。[11]公司人格的确立，实质上为特定自然人利益的延伸。公司的利益相关者在公司行为中具有特定的权利义务，法律若非赋予此类商业团体以法律人格，必然会损害这些特定主体的权利。基于此，法人是特定权利的享有者，因此具有特定法律人格。德威（John Dewey）认为法律中的“人”可能仅仅就是“权利与义务承担单位”（right-and-clnty-beuring unit）的代名词。法律要求行为主体与行为对象都是“人”，因此法律创造出公司人格，本身是一种异化。[12]
毋庸置疑，民法上确认法人的民事主体人格，实质上是一种功利主义视角。民事主体赋予的衡量标准在于法律接纳该类主体应满足社会效益最大化和当事人利益最大化的要求，或者至少不会对特定人群的利益产生不利影响，从社会整体利益角度而言，对该类主体类型的承认不会产生“负外部性”，[13]这便是判断主体适格性的“主体经济性标准”。例如，公司等经济性主体一旦享有言论自由，便会损害自然人的言论自由，由此公司并不具有自然人的言论自由。就人类社会的经济发展而言，智能机器人也是如此。可以说，伦理性人格到经济性人格的转变为智能机器人的主体论铺平道路。
（三）人工智能时代法律人格的工具化
民法主体的抽象，使得前期并不具备民事主体身份的奴隶成为法律上的人，摒弃了之前存在的“人可非人”。同时，法律构建了法人等民事主体类型，实现了“非人可人”。学者认为，与公司的拟制人格不同，智能机器人并不是拟制实体，基于该类主体的利益与其他主体的利益，需要赋予这类主体法律人格。[14]事实上，作为同时兼具“智力”与“意志”的机器人，几乎可以完成全部的人类工作。例如，智能机器人可以签订合同作为投资受托人，确保委托人的财产增值，而在设计和运行代理的同时，也能够享有一定的财产收益。当其违反合理注意义务时，则可自行为其不恰当行为承担赔付责任，此种意义上，机器人能够产生责任并具备相应的责任能力。[15]另外，智能机器人还能够通过创设承担经济责任的合法路径，如开设相应账户，当其对他人造成损害时，优先以该账户资金进行赔付。[16]因此，有学者建议赋予计算机交易系统法律人格，以此使得通过该系统订立的合同具备强制执行的正当性基础。[17]同样，也有学者主张，机器人自己可以购买相应的行为保险，以减轻或有能力承担其错误行为所致损害赔付。[18]就此，信息社会中智能机器人脱离法律客体“物”之属性，不断主体化，其实就是“非人可人”的切实表现。
事实上，对机器人具体人格的确认，并不会损害以人为中心的主体制度。AI技术的发展，需要机器人具体人格的登场，而这进一步丰富了现代民法的主体内容。值得指出的是，即使给予机器人特定人格的存在，也不会损害以人为中心的伦理体系。正如2018年3月9日，欧洲科学与新技术伦理组织（European Group on Ethics in Science and New Technologies）发布《关于智能机器人、机器人及“自主”系统的声明》（Statement on Artificial Intelligence, Robotics and ‘Autonomous’ Systems）所指出的那样，无论“智能”系统多么先进与复杂，“自动”系统达到多么高的程度，无论他们在不依赖人类能够多高程度地自我操作与自我“自治”，“自治”作为原始意义上人类尊严的重要体现都不应该被相对化。[19]对机器人人格的承认，其实就是以人类为中心建立相应的制度体系，避免具体人格的缺乏导致规则的无所依存。这或许是授予机器人具体的、有限人格的最为原始的动因。现实中已经开始承认机器人的法律主体地位。例如，2017年10月26日，沙特阿拉伯授予美国汉森机器人索菲亚公司生产的机器人索菲亚公民身份，尽管遭到诸多学者的质疑，智能机器人民事主体身份确认已然成为现实。基于智能机器人的自我意识，不过他们自治能力如何，授予智能机器人主体地位，使其能够进行自我管理，或许更能够为人类服务。“由于智能机器人仅具有有限的法律人格，因此智能机器人的本质是为人类生产生活服务的工具（即‘以人为本’），这是智能机器人发展的首要原则，也是建立智能机器人监管整体框架的首要指导原则。”[20]未来赋予智能机器人民事主体资格也是为了能够更好地作为服务社会的工具。例如工业文明的发展催生的法人制度作为参与经济活动的主要力量，为社会经济发展和人的利益获取起到关键作用。同样，互联网时代催生的智能机器人民事主体资格的赋予并不意味着对人类社会伦理性产生威胁，相反，却会使智能机器人更好地发展以便服务于人类社会。
二、工具性人格构建的理论基础与实践需求
对智能机器人很难进行定义并不是因为“人工”而在于“智能”。智能机器人的科技发展是以人为参照体系，判断其是否具有人的意识、语言使用、学习能力、适应能力、理性思考能力，是否能够在未知世界中实现既定目标，由此具有“智”的特征。未具有“智”的特征，只能称之为机器。这也是计算机技术发展孜孜以求的目标。以人为对象，学者将智能机器人分为四类，思考的智能人、行动的智能人、理性思考的智能人与行为理性的智能人。[21]今天，人们普遍接受瑞尔和诺威斯（Russell and Norvig's）的观点，将“智能机器人”定义为“行动理性”；而麦卡斯（McCarthy）则认为智能机器人是“能够制造聪明的机器、研发智力计算程序的科学或者工程”。[22]但无论如何定义，智能机器人都没有脱离工具化的主体范畴。
（一）“智能化”发展突破传统主体客体的划分
“主客体二元区分体系”是现代民法构建的基础，其实就是以“人类”自我为中心构建的体现。该体系忽视了现代民法中“我为人人、人人为我”的生活属性。每个主体都是社会网络的结，每个主体在同一个法律关系中为主体的同时，也作为权利作用的对象。尽管学者认为，“客体不可能是人身,只能是人身之外的利益。在现代社会,人是不能作为权利客体而成为他人权利的支配对象的。”[23]有学者认为，“债权客体是指债权人的权利所指向的‘事物’,即债务人,而债权的内容是指债权所包含的某种自由意思、利益或权能,即债权人可以请求债务人为或不为一定行为,并享受其利益的自由意思。”[24]《德国民法典》“债务关系编”将债定位为“依据债务关系，债权人可以向债务人请求给付”，其实正是以债务人行为为中心建立相应的债权体系。[25]而物权法也是基于义务人为中心建立相应的权利制度。当然，以“人的行为”为中心建立相应的制度，并不是要实现古代民法的人身支配，而是以权利与义务为法律关系的中心建立相应的行为体系。赋予民事主体权利与义务能够简化很多民事法律关系，这也是功利主义视角下，判断主体适格性的主要标准。
机器人在没有人的辅佐与监管之下，能够进行各种复杂的活动，诸如驾驶车辆、投资、医疗等，随着机器人的普及，传统劳动力市场如打字、清扫、开户、照相等诸多服务领域将会被机器人替代。正如工业革命带来社会经济的发展，机器革命将会使人类从繁重的劳动中解放出来。而从现有法律制度的设置来看，机器人能够拥有财产权，能够独立缔结合同，能够成为权利义务主体，并不具有法律上的障碍。[26]
笔者认为，智能机器人应当定义为“理性代理人”，其能够实现自己的任务，并且“当存在不确定的结果时，它能够实现最好的结果，而这个结果正是所希望实现的”。[27]机器人与人的最大差别就是理性人面对复杂的情况时，只能作出其最为满意而不是最好的选择；而机器人能够冷静的在各种方案中找出最为优异的选择。[28]2017年，新版“阿尔法围棋”用到了很多新技术，如神经网络、深度学习、蒙特卡洛树搜索法等，再次感受到机器人已经超越人类。[29]学者认为智能机器人已经具有自己的理性行为。[30]
（二）抽象人格能够实现主体人格的平等性
“抽象是一般法律人格的最本质特征。”[31]近代民法的最大贡献就是通过引入“主体”范畴，使私法人格从家族性、社会性人格转型成为个体性人格，实现了法律人格之平等设计与论证。同时，通过确立私法人格“主体”的唯一性原则，使人成为独立于“神”与“自然”之外唯一的法律人格承载主体。[32]民事主体制度着眼于社会生活中抽象的“人”，而不关注现实中有血有肉的具体“人”。正如拉德布鲁赫所言，民法典不知道农场主、手工业者和工场主、企业家，而只知道完完全全的法律主体，只是“人”。[33]苏永钦也如此认为：“狭义民法典反映的人像，始终是无色无味，不笑不愠。”[34]在民法中，每个人都是享有权利与承担义务的主体，是社会生活的主宰。所以孟德斯鸠认为，在民法的慈母般的眼里，每一个个人就是整个国家。[35]民法对主体的抽象的构造，乃是机会平等、资格平等的表现。民法对抽象主体及相关规则的构建表现在以下几个方面：
第一，抽象出权利能力与行为能力。权利能力与行为能力的抽象，抹杀了人的自然属性的区别，消灭了人的自然禀赋，从各种类型的人中抽象出作为主体的唯一类型。“一言以蔽之，任何人皆享有相同的私法上的权利和义务乃是近代私法把握人的方法方面的首要的最大的特色。”[36]
第二，抽象出法人概念。法人的出现是抽象人格的具体表现，在注释法学派的影响下，只有“在团体成员的多数人之外独立存在的抽象人格”，[37]法人才能得以发生。
然则，在抽象人之外，民法仍存在具体人的概念。这主要是因为自然人的禀赋、受教育程度、拥有的财产等差异，导致抽象人的变异。现实中弱肉强食的现象广为存在，一次又一次损害了民法的平等精神。这就有必要反思民法中抽象人的表现，重新构建民法上的抽象人格制度。因此需要根据年龄、智力、精神状态等情况对具体人进行规范，对消费者、雇工、妇女、儿童等弱者的具体人格进行特殊保护，从而实现实质的社会平等。[38]这也是具体人格的表现。对此，星野英一认为，现代民法中的人是“具体的人”，是“弱而愚”的人，尤其是穷人以及轻率从事、意志薄弱的人。[39]具体人格的登场，是现代民法面对现实的反映，进一步实现民法是生活之法、权利之法的品性。
（三）智能机器人具备享有财产权的现实需求
在现代民主社会，财产权是实现“保护与推进实现自我尊重与自我自治”的措施，基于财产权每个人能够得到平等的尊重与自我关心，这也成为现代社会保护财产权一个重要原因。[40]基于此，应当摒弃性别、种族乃至信仰等方面的差异，对财产权进行平等保护以及对公共财产的平等使用。财产权必须给予平等尊重，其存在基于伦理性要求。而在此方面，机器人并不具备财产权伦理性的正当性根基。但问题是，现代宪法不仅赋予自然人以财产权，法人等非自然人团体也享有财产权，由此可见，仅仅从财产权的伦理性来阐释机器人是否应当享有财产权不具备正当性。
一般而论，机器人应该享有财产权，主要基于以下三种理由：一机器人并不是自己独立享有财产权，而是基于雇主代理人的身份享有财产权。根据《美国代理法重述（第三次）》第3.05条规定：“通常情况下，任何人都可以接受授权与他人产生法律关系并受与第三人所产生的法律关系约束。”基于此项规定，机器人可以基于自然人的授权行为而成为自然人的代理人，由此基于其授权行为享有代理权。不过，这种观点具有法律上的障碍。根据《美国代理法重述（重述）》第1.04(5)条的规定，根据普通法的规定，计算机软件只能作为一项工具，而不能作为代理人或者主要参与人。[41]不过，在State Farm Mutual Automobile Insurance Company v. Bockhorst案中，被告是一家保险公司，在与原告签订保险协议时，由于计算机的错误，向原告发送了一项保险更新的通知，而原告基于此项通知做出了改变原来保险的行为，法院认为原告基于对此项通知的信任作出改变保险的行为当然有效。[42]第十巡回法院认为“现行程序做出乃基于不可预想的机器设备的错误”，该错误后果应该由被告承担，计算机作为被告的代理人。[43]人工智能时代的到来，使机器人本身具备自由思想与创造力，其与第三人产生的权利义务如果不由雇主承担，那么此项责任的承担就无法确立。因为这些自动机器是以人为角色设计与使用的，这些机器导致的损害责任最终要由使用这些机器的人承担。[44]法院在这两个案件中确立了机器人作为独立的负责人，能够作为代理人在雇主与第三人之间产生权利与义务。[45]
其次，正如法人享有财产权一样，机器人也应该享有财产权。法人是法律拟制的产物，独立于股东，具有自己的独立意志，拥有自己的财产，能够独立订立合同，也能够从事犯罪活动。具备相当智力与自我学习提高能力的机器人与法人一样，具有独立的意志与判断能力，能够为股东的利益最大化进行算计；机器人也能够像法人一样保护财产免受侵害。[46]而且，机器人也与法人一样，不具有伦理上拥有财产权的基础，却可能比法人具有更高的效率与能力，从而为股东谋取更高的利益。由此，机器人也应该与法人一样，被赋予独立的法律人格，因此也应该具有财产。不过，需要注意的是，尽管法人享有财产权，但法人的财产只是股东承担责任的基础，该项财产只是登记在法人名下，真正的主体还是自然人。与法人一样，如果其他主体要求机器人承担责任，也可以如刺破法人面纱一样，要求机器人的控制者（股东）承担责任。
三是作为有意志的主体，机器人当然的应该享有财产权。机器人与其他工具具有不同，具有自己的独立认知能力，能够学习并不断进行创造。[47]计算机能够不断学习与改变自我行为，能够合理表达自己的意志，而这些意志的形成与决议的达成均受智能机器人程序控制，计算机根据人类赋予的自我决断能力，得以完成高度复杂的工作。[48]是否具备意志能力是判断其权能能力的标志。当然，就自然人而言，在法律诞生之初，并非所有的自然人均被赋予权利能力，自然人具有权利能力是法律创造的结果，这个结果并不在于人的理性而在于伦理；但是就法人的权利能力而言，该权利能力的存在基础并不在于伦理，而在于立法者的法律构建技术，是立法者基于自然人的现实需要进行的创设。法人的设立乃是基于实践中广泛存在的利用法人这一组织体实现投资人有限责任的需求，而并非决定于其意志能力；就连自然人财产权的享有也并不能完全由其意志能力决定一般，一个拥有爱因斯坦般超强智慧的13岁未成年人只能在法定监护人的监护下才能行使财产权。以此，智能机器人并不缺乏财产权的存在基础，其可以通过监管或者其他方式弥补意志能力的缺陷。其次，法律赋予法人具有财产权与赋予机器人具有财产权二者并不具有实质差异。市场经济中，有些法人可能就是计算机软件运行，自然人仅仅只是工具，而不具有独立意志。[49]在此，法律并不因为公司的意志能力或者人的因素才能成为财产权的主体；在大陆法系，财团法人设立之后，其发起人当然地退出法人。由此，法人具有财产权，并不在于独立意志，而在于法人本身。如果机器人设立公司，法律并不能因为机器人不同于自然人而给予差异对待。最后，在现有的法律框架下，机器人拥有财产并不会给现有制度造成伤害。因为机器人如同法人一样，国家可以对其财产予以征收。[50]社会并不因法律赋予机器人财产权而导致社会危害，换言之，机器人对社会有害与赋予机器人财产权并不具有本质的关联。
不过，基于意志能力赋予自然人权利能力，由此自然人享有财产权，这其中涉及到伦理考量，也是法律人文主义发展必然结果；赋予法人财产权，是经济发展的必然要求，解决了自然人不能从事各种行为的困扰。而人工智能时代，法律上赋予机器人财产权具备充分的现实需求，也是信息技术高速发展的必然选择。
三、工具性人格构建的基本要素和前提条件
（一）意志并不是工具性人格的本质属性
“温德沙伊德虽然认为权利能力来自于法律的赋予，但是，这个法律作为实在法却不是立法者的意志，而是来自于近代哲学以来的伦理的‘自由意志’的人格。”[51]独立意思始终作为理论上和实践中判断主体独立性的核心要素和终局标准。的确，独立意思是民事主体能够贯穿其民事活动、民事责任承担甚至享有独立财产的核心要素：民事主体从事法律行为以意思表示为核心要素，即便主体行为客观表现相同，也会因其背后不同的意思表示呈现不同的法律后果。问题是，独立意思是推断或者拟制的产物。尽管民事责任承担中也往往根据行为人主观过错的程度呈现不同的法律责任承担方式，如缔约过失和侵权行为中的过错责任和推定过错责任均需要根据责任主体在独立意思方面的过错进行判断。但要使法律意义上的抽象的独立意思转化为现实性，不是行为人具有独立的意思表示，承担法律责任也不要求行为具有意志的特性，而是要使其具备与其责任范围大体相称的独立财产，由此意识并不是人格的本质属性。“当我们探讨具体主体需要确定损害的原因与责任的来源时，我们经常忽视内心与精神态度”。[52]现实中，我们也经常对那些在交易中产生作用的具有苛责性的行为分配责任。
（二）权利与义务是工具性人格的认定标准
“民法人格从古罗马私法到现代民法的发展，历经了由具体的身份基础到抽象的伦理基础的演变。抽象人格的确立，使得近、现代民法上人与人之间的关系，在了无差异的人类伦理之上实现了真正的平等——身份等具体的人的特质，被排除于人格基础之外。”[53]自然人平等人格的赋予，充满了伦理性色彩，却无法完满解决法人人格如何确立的问题。自然人作为伦理人格，“他应当具有自我意识，应当自主的决定自己的存在，”[54]《德国民法典》在确立法人人格时创造了“权利能力”概念，因而，在伦理学上的‘人’所具有的所有特性中，法人只具有惟一的一个：权利能力。[55]可以说，法人的权利能力经由立法创设，并且可以被剥夺；[56]而对于自然人来说，不管是人格还是权利能力，并非是通过法律技术手段赋予，而是基于伦理性的存在，“其来源于人的理性与自由意志，从一出生即可享有”，[57]并非来源于立法者的赋予，先于法律而存在。权利能力概念的创设保证了自然人和法人在享有权利和承认义务这一点上实现底线上的一致，“在这个基础上，自然人格的伦理意义并没有丢失，法人的技术人格也没有因此而具有伦理性”。[58]
从法典制定的形式理性而言，需要发展一套能够糅合各种不同的法律要素从而达到统一使用的民事主体制度体系，这种抽象的方式就是“提取公因式”。因而，作为民事主体的本质资格条件应当在不同民事主体之间寻求共同点。权利能力作为一项主体性思维工具，初衷在于从法律层面上解决生物人与法律人作为权利主体的合一，并客观上实现了自然人与法人在人法框架下的统一。法律上成为民事权利主体者的法律资格称为“人格”，亦即权利能力。[59]民事主体其实就是具有法律权利与承担法律责任的主体，[60]如里特纳所言，“法律上的人被缩成了权利主体，而权利主体归根结底仅仅是权利和义务的联结点。”[61]《德国民法典》对于法人人格确立的初衷同样在于，“赋予法人以享有权利和承担义务的主体资格”。[62]
（三）保险制度是工具性人格的责任支撑
民事权利能力解决的是主体资格平等的问题，而行为能力解决现实中民事权利与行为能力问题。机器人的责任承担可以通过相应制度来实现。例如学者认为，适用代理法的框架可以解决无人驾驶汽车所存在的问题，如果汽车在运行过程中导致他人损害，因为这是车主的可支配范围内，应该由车主承担责任。如果要车主减免相应责任，需要证明制造商产品的缺陷。[63]这种解释具有一定道理，但问题是，对自动驾驶汽车民事责任的承担还是基于将自动驾驶汽车视为工具的思维。
其实，传统民法建立在个人过错基础之上，对于传统的非复杂化的机器，适用客体制度能够解决问题，但因为智能机器是以人为样本开发的，具备学习与自我管理能力，而不能仅仅单纯地被视为机器，由此对民事责任制度提出新的挑战。合理预见是确立责任的基础，预见性确定了责任的性质与责任的内容。如果应预见而没有预见，行为人就具有过错，应该对此种行为承担责任。如果受害人没有预见，这就可以减免侵权人责任。合理预见的前提是理性人，每个具有理性的主体能够对其行为或者支配的行为预见其行为的结果，违反此种预见应该承担责任。作为智能机器人发展较为先进的智能驾驶系统，已经投入运用，目前法律仍然缺少对智能驾驶系统的法律规制，对于智能机器人中的计算机，法律并不是将计算机当成法律实体，而是人使用的工具，不管使用者具有故意或者过失，均要对其行为负责。[64]就目前研究而言，大多数学者还是主张对无人驾驶技术运用工具主义视角、通过类推规则实现法律适用。例如，有学者主张无人驾驶汽车与电梯一样，对于构建缺陷、操作失误导致损害，应该由所有人来承担责任。[65]还有学者将其类推适用于汽车与轮船上的自动驾驶系统。尽管现有法律没有对自动驾驶汽车的碰撞行为做出定性，但现有的法律认为无人驾驶汽车如同所有者的工具，所有者应该对自动汽车的非主观以及不可预见的行为承担责任。[66]然而，智能机器人并不是简单的计算机工具，是运用多种科技革命所带来的结果。使用人对工具的损害负责，这在一定程度上解决了使用人的担当问题，但使用人的责任还是在于使用人的过错。在侵权行为中，过错构成了机器人侵权的基础与担当。而智能机器人作为具备独立思考能力的智能系统，其主体意识必然将削减参与主体的过错程度，并减轻民事主体的责任承担。可以说，民事责任制度的基础在于要求行为人对自由意志行为发生后的结果承担责任。因此，以主体意识参与到民事关系中来的智能机器人必须承担相应的责任，必须以主体身份参与到民事活动，作为法律关系的承担者。另外，无人驾驶环境下使用者如同乘客，并不控制车辆，一旦将自动驾驶系统视为工具，使用者就不具有承担责任的基础。[67]就此而论，自动驾驶系统是造成特定损害的主要因素，在一定程度上要求使用人来承担责任是不公平与不合适的。
或者，有学者试图以严格责任来解决致人损害的问题。[68]的确，在严格责任的责任构建机制下，能够解决受害人的赔偿问题。但由此又造成一个问题，这是谁的严格责任，是使用人、制造者、开发者？基于严格责任的根基是危险责任，将智能机器人本身视为高度危险物品存在，这违背了智能机器人是服务人，增加社会运行安全，实现社会高效的初衷。其次，基于严格责任的基本原理，无论是使用人、设计者、制造商来承担严格责任，严重影响智能机器人的开发与利用。“智能机器人的发展系统与责任系统两个是相互交织的系统，在这个领域，科技已经走在法律的前面，创造出法律必须面对的基础。更准确而言，设计者，程序开发者、政策制定者以及法学家在运用现有的责任概念与假设来构建阐述智能机器人所导致的问题。”[69]值得强调的是，“民事责任既是一个与民事义务相对应的概念，又是一种与救济相对应的概念。民事责任与救济权对立统一，也构成一种民事法律关系。”[70] “离开民事责任,民事主体承担民事义务的资格只是没有意义的侈谈。”[71]因此，智能机器人能够承担责任是工具性人格的前提条件。有学者建议给予计算机交易系统法律人格，这样才能使通过该系统订立的合同具有强制执行的正当性基础。[72]法律应该为智能机器人创造承担经济责任的路径，例如为智能机器人开立相应账户，当他们给他人造成的损害时，优先以这些资金进行赔付，也可以为机器购买保险。[73]如此一来，保险制度便能够在一定程度上解决现有民事责任承担不足的问题。
四、工具性人格的法律化构建路径
（一）明确法律人格的有限性
智能机器人具有类似于人类独立思考以及深度学习的能力，这是其与其他技术类科技手段最主要的差异。无论是“工具说”、[74] “电子奴隶说”[75]还是“代理说”，[76]尽管皆难以准确解释智能机器人的主体性，都说明智能机器人服务于人类的终极目的。智能机器人之所以不能归类于纯粹技术性产物，不是因为它们像人类，而是因为他们具有精神，于是应该享有权利。[77]必须承认的是，智能机器人区别于其他民事权利客体的关键所在，即自主的学习与进步修正能力，仍然与自然人具有本质的不同，智能机器人的深度学习与应用主要依靠的是复杂的程序算法和数据记录应用，由程序员事先编排的一系列的数据代码控制，以保证其每次在相应情形下能够独立自主的作出合理合适的选择判断，而不受自然人情绪等的控制。应当说，智能机器人对于自主决定的判断是合理的，而人类的决定是符合伦理的。
智能机器人虽然具有法律人格，但归根结底依旧是由人类创造并服务于人类社会发展的智慧型工具，这从根本上决定智能机器人的发展必须遵循“以人为本”价值原则，以保护、不侵犯人类权利为基本底线。“机器人不得伤害人类，或看到人类受到伤害而不管；机器人必须服从人类的命令，除非这条命令与第一条原则相矛盾；机器人必须保护自己，除非这种保护与以上两条原则相矛盾。”[78]即便智能机器人已经历经近一个世纪的发展，由“机器人之父”阿西莫夫（ISAAC ASIMOV）创设的“机器人三原则”仍然作为智能机器人技术发展的指导原则。因此，智能机器人的发展不可能凌驾于人类之上、甚至不可能与人类价值齐平，立法者和执法者应当确保智能机器人不被滥用，法律必须在公民权利与新兴技术发展之间寻求平衡。[79]例如在数据保护层面上，智能机器人技术的应用必须保障公民的隐私权、数据权不被侵犯，这方面已存在不少习惯法，如目的明确、最少够用、公开告知、个人同意等原则。[80]
一般而论，智能机器人法律人格的有限性主要体现在：其一，行为能力的有限性，工具性人格首先意味着智能机器人的行为能力是有限的，其行为应当受到使用者或占有者的最终控制。其二，权利义务的有限性，智能机器人作为工具性主体并不享有伦理性的人格权或身份权，而是享有经济性的财产权利以及承担义务。例如，机器人能够签订合同，对某一物品享有所有权等等。[81]其三，责任能力的有限性，智能机器人的责任能力与自然人、法人、非法人组织的独立责任能力不同，虽然其可以独立自主的参与到民事活动中来，例如，智能机器人可以独立地参与到公司管理、签订合同以及司法实践中，但是其承担责任却是有限的，这就表明智能机器人只具备有限的责任能力。[82]美国司法实践中就认可机器人的有限人格。例如，在McEvans v.Citibank, N.A案件，银行的自动存款机基于错误没有确认顾客的存款由此导致顾客的存款损失，存款机作为银行的代理人，银行由此应该对顾客的存款损失承担责任。[83]
（二）体现法律人格的技术性和替换性
智能机器人在法律人格的属性上表现出浓烈的技术性和替换性。人格概念的意义在于揭示民事主体的内在统一性以及实质特征，“民事能力概念的意义在于揭示民事主体的差异性，具体刻画民事主体存在与活动的状态与特征”。[84]从立法技术角度而言，民法典对于主体人格的设计是以权利能力概念为核心，在自然人的情形中，“法律人”是以伦理价值为依据，通过抽离自然人属性中的伦理价值形成权利能力将“生物人”的自然本性塑造成为“法律人”的法律人格属性；在法人的情形中，权利能力扮演“团体人格”能力角色，使得团体通过权利能力的赋予具有与同为“法律人”的自然人一样在某些方面享有人格利益的民事主体。正如学者所言，“民法上的人格在法律上一是保护作为民事主体享有权利和承受义务的平等主体资格。二是指应受法律保护的精神利益。”[85]民事主体人格的赋予以抽离自然人属性形成的权利能力为最低起点，而模拟和扩展“人类智能”形成的机器人虽具有人类相当的智性，但不具备“人之为人”的伦理属性。
一方面，可以说，智能机器人区别于具有生命的自然人，也区别于具有独立于成员意志的法人团体，其作为拟制之人之所以能够享有主体资格，乃在于智能机器人的技术性，其能够契合并实现作为民事主体的内在要求。具体而言，表现在以下几个方面，其一，独立性，实现从直接控制转向信息控制；其二，学习性，实现自主地学习和积累；其三，交互性，有一定的物体形态能够实现与外界社会的交流。由此机器人能够从软件代理转向智能代理，最终体现出工具性人格的技术性特征。[86]因此智能性人格不应当只作为法律中的客体存在，还要具备主体资格。例如，尽管机器人并不能完全地像“法律上的人”一样行使权利，但对于创作作品的著作权归属以及实物财产仍享有权利。
另一方面，智能机器人作为独特的民事主体表现在工具性人格的替代性。其一，信息社会中智能机器人的法律人格也同法人人格一样，属于通过法律手段赋予的替代性人格。最初法人团体被纳入民事主体的基本范畴时，并不为主体人格的概念所容纳。其后，德国民法学者采取了法技术手段，将人定位为法律关系而不是生活关系的人，法律关系是“通过法律规则界定的人与人之间的关系(Beziehung)，人就成为“法律关系的承担者(Tr?ger)”，从而将人的法律概念（Person）与原初的概念（Mensch）区别开来，同时法律人格被抽象化为权利能力。[87]正是法律拟制使得外在法人团体实现对内部成员的替代，由此法人能够成为独立的法律主体。法理上智能机器人也是如此。其二，智能机器人还会产生情感替代效应，“真正的问题并不在于混淆人与机器人，而是通过机器人与外界交流，人类在情感上愿意将机器人作为特殊目的的人或动物。”[88]其三，智能机器人法律人格的替代性还意味着其不能享有自然人的伦理性人格，但却可以作为占有人或使用人的代理人，实现效率化的安排和工作，由此可以解决许多的理论与实践难题。诚如学者所言，“替代性的智能机器人不仅能够实现利益的最大化，而且还能够提供比人类更好的技术和服务。”[89]
（三）建立特殊责任承担机制
智能机器人致人或物损害，很难理清占有者或使用人的意志在其中施加的影响，进而很难简单地由人承担责任。典型的如无人驾驶汽车发生交通事故。尽管有学者试图从所有者或者管理人责任来构建智能机器人致人损害责任的承担，但问题的关键在于，智能机器人具有独立的意识，是由独立意识支配的工具。人本身不能对其进行有效支配，基于私法自治的基本原理，所有人或者使用人不具备承担责任的正当化理由。或许有学者认为，该种支配可以进一步追及到软件开发者或者智能机器人制造商。的确，智能机器人是软件开发商或者制造商制造出来的，智能机器人致人损害由软件开发者与制造商来承担责任，这具有一定的道理。但问题是，作为产品责任，需要证明制造商与软件开发者在制造或者设计本身具有缺陷，这个缺陷包括功能缺陷、设计缺陷或者通知缺陷，如果没有此种缺陷，我们很难说其具有责任；其次，智能机器人被制造或者设计之后，已经脱离制造者与设计者的控制，因为智能机器人本身具有意识，能够自我学习并能够自我感知，具有独立的意识并能够进行相应的独立判断，事实上已经脱离人的控制，导致了因果关系中断，由此，制造商与设计者也不应该对智能机器人致人损害的行为承担责任。
因此，在智能机器人责任的承担方面，仅以客体的思维或者逻辑解决未知领域存在的问题，存在严重的理论缺陷以及实践不足。智能机器人的工具性人格使得机器人能够作为主体享有一定财产，从而能够在一定程度上解决这个问题。智能机器人的财产可以是开发者或者制造商或者使用人在购买机器人时而建立的基金或者保险。此时或许有人苛责，为何不直接制定针对使用人或者制造商的保险制度，以解决智能机器人责任承担问题。该意见仍然建立在以人为主体的视角之下，并未将智能机器人类似于人的本质属性融入进来。尽管在客体主义思维下，将智能机器人视为工具并在此基础上设立保险制度能够解决责任承担问题，但是没有突出智能机器人的主体性。
进一步而言，在智能机器人缺乏工具性人格的情况下，我们可能忽视智能机器人所存在的真正问题，并无法建立相应的责任承担与责任分配机制，可能会进一步扩大道德风险。而建立整齐划一的智能机器人风险基金模式，并不一定有利于智能机器人的发展。为此，法律应当为智能机器人创设特殊的责任承担的机制，例如，运用信托制度，为智能机器人开设相应账户，当其对他人造成损害时，优先以该账户资金进行赔付。[90]也可以为机器人购买行为保险，以减轻其错误行为所致损害的赔付。[91]同时，还可以通过登记确立智能机器人与占有人的代理关系，从而确定代理人与被代理人之间的责任承担机制。也有学者指出，传统的责任承担方式也可以满足救济智能机器人利益的需求，例如停止侵害、排除妨碍等均可以适用于智能机器人的救济。这样在不投入大量科技含量和技术手段的情况下，也能有效地防止智能系统的人格精神要素受到他人或外界的有害妨碍。[92]
结语
主体（人）与客体（物）严格区分是传统民法体系的基本制度，所谓民法意义上的人须具有独立之人格，即权利能力，既包括自然属性上的人，也包括法律拟制上的人（法人），可以说主体制度是民法典体系化的起点。然而，随着人类社会从基因时代迈向智能时代，昭示着主体制度迎来了跨时代的转变，即人的遗传基因不能简单的作为客体物看待，没有生命但具有“智能”的机器人也应当被赋予法律人格。尤其是随着智能技术的快速发展，机器人与人类之间的差距逐渐缩小，未来甚至可能会出现拥有与人脑的神经元相媲美的机器人。2016年，欧盟委员会法律事务委员会就向欧盟提交动议，明确提出将最先进的自动化机器人的身份定位为“电子人”，由此不仅赋予其民事主体的资格，更是从政治、纳税、社会治理上全方位承认其主体地位。另一方面，智能化革命引发的法律、政策和伦理话题却才刚刚开始。[93]因为法律具有滞后性，难以深入到科技发展的前言，智能机器人科技的发展已经超出了现有法律的规制范围。而如此一来，滞后性、体系性的法律很有可能制约科技的发展。我们不能奢谈人类的法律能够解决其中所有的问题，更不能希冀通过现行制度简单的逻辑推演规制科技给社会所带来的变化。正如学者所言，“网络法以及其他科技领域的立法经验——法理对于复杂科技的法律适用具有特别重要的经验——面对新的科技、对于新的科技适用正确的圭臬尤其重要。我们如何对机器人进行规制取决于我们采用何种圭臬，不同种类的机器具有多种竞争力的圭臬，获取正确的圭臬对于机器人法的成功或者失败具有特别重要的影响。”[94]也许对于智能机器人我们所知道的远比未知道的情形要多，但法律却不应当在智能机器人的发展的道路上关闭所有的大门，或者说，至少在关闭所有的大门时应该为其打开一扇窗。而智能机器人的工具性人格正是在力所能及的范围内为科技发展开一个口子，以一种兼具创新的保守方式适应科技发展带给人类发展的变化。
【注释】 *中南大学法学院教授。
**本文系“法治湖南建设与区域社会治理协同创新中心”资助的阶段性成果。
[1]Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information 4(Harvard Univ.Press 2015). Kate Crawford & Ryan Calo, Comment, There Is a Blind Spot in AI Research,538 Nature 311(2016),https://www.nature.com/polopoly_fs/1.20805!/menu/main /topColumns/topLeftColumn/pdf/538311a.pdf [https://perma.cc/G2TLNK9V].
[2]https://www.nitrd.gov/PUBS/national_ai_rd_strategic_plan.pdf。
[3]Mark A. Chinen.The Co-Evolution of Autonomous Machines and Legal Responsibilit,20 Va. J.L.& Tech.361(2016).
[4]张玉洁：《论智能机器人时代的机器人权利及其风险规制》，载《东方法学》2017年第6期。
[5]参见马俊驹：《从身份人格到伦理人格——论个人法律人格基础的历史演变》，载《湖南社会科学》2005年第6期。
[6]参见张作华：《法律人格的伦理变革——来自罗马法又回到罗马法》，载《西南政法大学学报》2007年第6期。
[7]参见李拥军：《从“人可非人”到“非人可人”：民事主体制度与理念的历史变迁——对法律“人”的一种解析》，载《法制与社会发展》2005年第2期。
[8]同前注[5]，马俊驹文。
[9]现代民法已倾向于“不是把人作为法律人格作平等处理而是根据种种差异区别对待”。“法律人格”发生了“从自由的立法者向法律的保护对象”、“从法律人格的平等向不平等的人”、“从抽象的法律人格向具体的人”的转变。参见星野英一：《私法中的人》，王闯译，中国法制出版社2004年版，第50页。
[10]尹田：《论自然人的法律人格与权利能力》，载《法制与社会发展》2002年第1期。
[11]Mireille Hildebrandt, From Galatea 2.2 to Watson--And Back? in Human Law and Computer Law: Comparative Perspectives ,25 Jus Gentium 23,38.
[12]John Dewey, The Historic Background of Corporate Legal Personality,35 Yale L.J.655,656(1926)
[13]参见房绍坤、张旭昕：《我国民法典编纂中的主体类型》，载《法学杂志》2016年第12期。
[14]Jessica Berg.Article: Of Elephants and Embryos: A Proposed Framework for Legal Personhood,59 Hastings L.J.387(2007).
[15]Lawrence B. Solum, Legal Personhood for Artificial Intelligences,70 N.C. L. REV.1245(1992).
[16]Ugo Pagallo, The laws of robots : crimes, contracts, and torts，143-144(2013).
[17]同上注，第154页。
[18]同前注[15]，Lawrence B. Solum文，第1240页。
[19]See European Group on Ethics in Science and New Technologies.Statement on Artificial Intelligence, Robotics and ‘Autonomous’ Systems, http://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf.
[20]袁曾：《智能机器人有限法律人格审视》，载《东方法学》2017年第5期。
[21]Stuart J. Russell & Peter Norvig, Artificial Intelligence: A Modern Approach 3-5(3d ed.2010).
[22]John McCarthy, What is Artificial Intelligence?(Feb.12,2018), http://wwwformal.stanford.edu/jmc/whatisai.pdf [https://perma.cc/U3RT-Q7JK].
[23]王利明：《民法总则研究》，中国人民大学出版社2011年版，第188页。
[24]季秀平：《对债权客体的重新认识》，载《南开学报（哲学社会科学版）》2007年第2期。
[25]参见龙卫球：《债的本质研究：以债务人关系为起点》，载《中国法学》2005年第6期。
[26]同前注[3]，Mark A. Chinen文，第378页。
[27]同前注[21]，Stuart J. Russell & Peter Norvig文。
[28]Matthew U. Scherer, Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies,29 Harv. J.L.& Tech.365.(2016).
[29]“阿尔法围棋”再揭秘，新华社2017年1月6日。http://www.xinhuanet.com/2017-01/06/c_1120261302.htm。
[30]Matthew U. Scherer, Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies,29 Harv. J.L.& Tech.365(2016).
[31]曹新明、夏传胜：《抽象人格论与我国民事主体制度》，载《法商研究》2000年第4期。
[32]参见刘云生：《民法与人性》，中国检察出版社2005年版，第206页。
[33]［德］拉德布鲁赫：《法学导论》，米健、朱林译，中国大百科全书出版社1997年版，第66页。
[34]苏永钦：《无色无味的民法人》，载李富成主编：《北大法治之路论坛》，法律出版社2002年版，第79页。
[35]参见［法］孟德斯鸠：《论法的精神》（上册），张雁深译，商务印书馆1961年版，第191页。
[36]同前注[9]，星野英一书，第156页。
[37]张俊浩：《民法学原理》，中国政法大学出版社1991年版，第169页。
[38]参见曹新明、夏传胜：《抽象人格论与我国民事主体制度》，载《法商研究》2000年第4期。
[39]同前注[9]，星野英一书，第175～194页。
[40]David Marc Rothenberg. Can Siri 10.0 Buy Your home? The Legal And Policy Based Implications Of Artificial Intelligent Robots Owning Real Property.11 Wash. J.L. Tech.& Arts 4334.（2016）.
[41]同前注[40]，David Marc Rothenberg文，第447-449页。
[42]State Farm Mut. Auto. Ins. v. Bockhorst,453 F.2d 533(10th Cir.1972).
[43]同上注。
[44]同前注[3]，Mark A. Chinen文，第361页。
[45]同前注[40]，David Marc Rothenberg文，第452页。
[46]同上注，第454-455页。
[47]David C. Vladeck, Machines Without Principals: Liability Rules and Artificial Intelligence,89 Wash. L. Rev.117(2014).
[48]See Tom Allen & Robin Widdison, Can Computers Make Contracts?, Wash. J.L.tECH8 Arts 25,27(1996).
[49]Glenn McDonald, Meet the New Boss: The World's First Artificial-Intelligence Manager, https://www.yahoo.com/tech/meet-the-new-boss-the-worlds-first-128660465704.html.
[50]Robert Meltz, Takings Law Today: A Primer for the Perplexed,34 Ecology L.Q.307(2007).
[51]参见周清林：《主体性的缺失与重构：权利能力研究》，法律出版社2009年版，第83－84页。
[52]John W. Snapper, Responsibility for computer Based Errors,16 Metaphilosophy 295(1985).
[53]张翔：《自然人格的法律构造》，法律出版社2008年版，第206—207页。
[54][德]卡尔·拉伦茨：《德国民法通论》（上册），王晓晔、邵建东等译，法律出版社2003年版，第56页。
[55]同上注，第57页。
[56]参见《德国民法典》第43条规定。
[57]周清林：《主体性的缺失与重构：权利能力研究》，法律出版社2009年版，第83－84页。
[58]同上注，第90页。
[59]参见梁慧星：《民法总论》，法律出版社1995年版，第50页。
[60]Jessica Berg.Article: Of Elephants and Embryos: A Proposed Framework for Legal Personhood,59 Hastings L.J.383(2007).
[61]同前注[54]，卡尔·拉伦茨书，第57页。
[62]孙聪聪：《人格作为法律主体的伦理与技术——基于历史进路的考察》，载《广西大学学报（哲学社会科学版）》2015年第3期。
[63]同前注[3]，Mark A. Chinen文，第349页。
[64]Sophia H. Duffy and Jamie Patrick Hopkins. Sit, Stay, Drive: The Future of Autonomous Car Liability,16 SMU Sci.& Tech. L. Rev.463(2013).
[65]Kyle Colonna, Autonomous Cars & Tort Liability,4 Case W. Reserve J.L. Tech.&Internet 81,91-92(2012).
[66]同前注[64]，Sophia H. Duffy and Jamie Patrick Hopkins文，第467页。
[67]同前注[3]，Mark A. Chinen文，第358页。
[68]Kyle Graham, Of Frightened Horses and Autonomous Vehicles: Tort Law and its Assimilation of Innovations,52 Santa Clara L. Rev.1241,1266(2012).
[69]同上，第346页。
[70]李开国：《民法总则研究》，法律出版社2003年版，第104页。
[71]魏盛礼：《民事权利能力与民事责任承担的逻辑应对关系》，载《南昌大学学报(人文社会科学版)》2010年第3期。
[72]同前注[16]，Ugo Pagallo书，第154页。
[73]同上注[16]，第143-144页。
[74]See Bryant Walker Smith, Automated Vehicles Are Probably Legal in the United States, Spring,2014,1 Tex. A&M L. Rev.411,pp.2-6.
[75]See Leon E. Wein, The Responsibility of intelligent Artifacts: Toward an Automation Jurisprudence,6 Harv. J. Law & Tec 103, FALL,1992,pp.40-42.
[76]同前注[3]，Mark A. Chinen文。
[77]See Phil McNally, Sohai Inayatullay:《机器人的权利——二十一世纪的技术、文化和法律（上）》，邵永浩译，载《世界科学》1989年第6期。
[78]Jack M. Balkin , Sidley Austin Distinguished Lecture on Big Data Law and Policy: The Three Laws of Robotics in the Age of Big Data,78 Ohio St. L.J.1217.
[79]参见杨芳：《德国一般人格权中的隐私保护信息自由原则下对自决观念的限制》，载《东方法学》2016年第6期。
[80]具体可参见1998年英国《数据保护法》和2016年欧盟《个人数据保护通用条例》的相关规定。
[81]同前注[74]，Bryant Walker Smith文，第10-15页。
[82]同前注[20]，袁曾文。
[83]McEvans v. Citibank, N.A.,408 N.Y.S.2d 870(N.Y. Civ. Ct.1978).
[84]吴汉东：《智能机器人时代的制度安排与法律规制》，载《法律科学（西北政法大学学报）》2017年第5期。
[85]吴汉东：《试论人格利益和无形财产利益的权利构造——以法人人格权为研究对象》，载《法商研究》2012年第2期。
[86]See S.M. Solaiman， Corporate Manslaughter by Industrial Robots at Work: Who Should go on Trial Under the Principles of Common Law in Australia? Fall,2016，35 J.L.& Com.21,pp.24-30.
[87]参见朱虎：《萨维尼视野中的法律关系的界定——法律关系、生活关系和法律制度》，载《比较法研究》2009年第5期。
[88]See Jack M. Balkin, The Path of Robotics Law, June,2015,6 Calif. L. Rev. Circuit 45,p.13.
[89]同前注，第15页。
[90]同前注[16]，Ugo Pagallo书，第143-144页。
[91]同前注[15]，Lawrence B. Solum文，第1240页。
[92]See Bert-Jaap Koops, Mireille Hildebrandt & David-Olivier Jaquet-Chiffelle, Bridging the Accountability Gap: Rights for New Entities in the Information Society? Spring,2010,11 Minn. J.L. Sci.& Tech.497,pp.15-18.
[93]同前注[84]，吴汉东文。
[94]Neil .M.Richards and Wiliam D.Smart. How Should the Law Think About Robots,in Robot Law(Edited by Ryan Calo,A.Michael Fromkin and Ian Kerr),Edward Elgar 2016,at 13.
【期刊名称】《法学评论》【期刊年份】 2018年 【期号】 5
