内容提要：自动驾驶汽车为了保护乘客性命而实施攻击性紧急避险并造成他人死亡的，因其行为符合故意杀人罪的构成要件而属于不被允许的风险，因超过了必要限度而不成立阻却违法的紧急避险，因使无辜路人陷入危难而不满足义务冲突之要件，故不属于构成要件前行为或违法阻却事由。消费者明知自动驾驶汽车设有避险程序，仍然驱车上路致使无辜路人死亡的，是利用汽车的预设程序实施避险行为，在规范构造上与亲自实施紧急避险并无不同，能够因不具有期待可能性而成立阻却责任的紧急避险。制造商为了追逐利益设置杀害路人以保护乘客的避险程序，与路人死亡存在因果关系，应当成立故意杀人罪的帮助犯。在自动驾驶汽车紧急避险的伦理问题尚未解决以前，不应当让其上路，否则无异于为违法行为披上了合法外衣。
关 键 词：自动驾驶汽车 允许的风险 紧急避险 期待可能性 电车难题
一、问题的提出：自动驾驶汽车的紧急避险难题
二、自动驾驶汽车对生命紧急避险违法阻却说之否定
三、自动驾驶汽车对生命紧急避险的刑事责任主体
四、结语：自动驾驶汽车紧急避险的伦理困境
一、问题的提出：自动驾驶汽车的紧急避险难题
随着人工智能的不断发展，自动驾驶技术日趋成熟。2017年12月2日，全球首批智能无人驾驶公交车在深圳市开放道路上试运营，这标志着自动驾驶技术迈上了一个新的台阶。2018年7月4日，在百度AI开发者大会上，李彦宏宣布百度与金凯龙客车合作研发的全球首款L4级量产自动驾驶小巴“阿波龙”于2018年7月正式下线，并于2020年大批量投产，未来将在北京、长春等城市首批投放运营。可以说，自动驾驶汽车全面上路已是大势所趋。然而，人工智能并非无所不能的神明，由于道路环境瞬息万变，各种交通事故屡见不鲜。不难想象，随着自动驾驶汽车的进一步普及，曾经设想的“电车难题”将会在现实中发生。因此，设计者必须在设计自动驾驶汽车时考虑到此问题。①但问题在于，究竟何种设计方案才符合法律规范?若某一公司在研发的汽车中便设定“为了保护同等甚至数量更多乘客而损害无辜路人的性命”，究竟是否合法?如果不合法，造成他人法益损害的结果，应当由谁来承担责任，又应当承担何种责任?刑法是否应当在防范及制裁方面承担相应的功能?对此，我国伦理学界已有学者进行讨论，但在法学界却几乎无人问津。在本文中，笔者将先确立讨论的前提，而后对认为此类行为能够阻却违法的观点进行批判，最后提出观点及困惑，以促进我国人工智能法律之发展。
二、自动驾驶汽车对生命紧急避险违法阻却说之否定
“电车难题”种类繁多，并非每一种都会出现在自动驾驶汽车可能遇见的情形中，也并非每一种都在教义学理论上存在争议。为避免模糊讨论的重心，笔者将先确立其中最有争议也最具代表性的情形，并将其作为讨论的前提。
(一)本文的前提
1.只包括侵害无辜第三人的攻击性紧急避险
如案例1：A乘坐的自动驾驶摩托车系统出现故障，在道路上逆行并径直撞向B所乘坐的自动驾驶汽车，如果B直接撞向A，势必造成其重伤，但除了撞向路边正常行走的行人C外，B并无其他方法避免与A相撞。在本案中，A作为道路交通参与者，客观上违反了交通规则并导致危险的发生，B将其撞伤的行为构成刑法上的防御性紧急避险。然而学界通说认为，在防御性紧急避险中，故意杀害自然人也能够被合法化。②因此，当一方客观上违反了交通规则，导致危险发生时，允许为救援一个生命而致使交通规则违反者死亡的结果出现。③换言之，在防御性紧急避险中，导致违反交通法规者重伤死亡的行为能够阻却违法，并不存在理论上的争议。因此，本文的讨论范围仅限于攻击性紧急避险，即损害无辜第三人之法益的情形。
2.自动驾驶汽车的程序设定趋于保护车内人员
如果考虑到自动驾驶汽车的市场需求，其程序设定必然趋于保护车内人员(包括驾驶员和同乘人员)一方。在面临危难时，可能存在数种预设程序：其一，紧急制动后任凭事态自由发展，但这样的结果必然是车内人员的法益遭受损害。其二，设置功利主义程序，即选择可能造成伤亡人数最小的结果。如德国伦理委员会报告中指出：“为了减少受害人员数量的一般性的编程是允许的。制造交通危险的道路交通参与者不能牺牲非参与者的生命。”④我国也有学者指出，如果生命间不可衡量之原则不再是一个不可逾越的原则，那么应当优先保护多数人。⑤其三，优先保护乘客的安全。例如在案例1中，因为被摩托车撞击可能造成车内乘客损伤，所以自动驾驶程序会选择撞向路边的行人。相比较而言，第三种程序是商家的必然选择。一如Hilgendorf教授所言，在面临危险时，程序必然会优先保护车上的乘客，即便获救的人数超过受害(乘客)的人数。⑥美国学者的社会调查结果也表明，在面对撞向更多路人还是牺牲自己的选择时，大部分人倾向于功利主义的道德算法，即拯救更多的生命；但在选择购买何种算法的自动驾驶汽车时，人们又绝对倾向于购买基于自我保护算法的车，而非基于功利主义算法的车。⑦因此，考虑到自动汽车的市场需求，自动汽车的程序设定必然趋向于保护驾驶人员一方的法益。⑧当然如后所述，此种设计值得商榷。⑨
在确立了上述前提后，笔者拟从以下基于“电车难题”改编而来的案件(案例2)出发展开讨论：为了提高销量，某厂商设置了在面临危险时会优先保护乘客的驾驶程序并大肆宣传，A看到广告后购买了该品牌L5等级的全自动驾驶汽车。次日，A载着一家老小(共4人)乘坐此车在道路上正常行驶，迎面而来的大货车突然失控朝A的汽车撞来。此时，车辆预设的保护系统启动，自动向路边人行横道驶去，并将一正常行走的老人撞死。在这样一个标准的自动驾驶汽车紧急避险的案件中，我们需要探究的是，自动驾驶汽车撞死老人的行为是否合法?如果不是，应当由谁来承担责任，以及承担怎样的责任?
(二)容许的风险说之否定
部分学者认为，无人驾驶汽车的广泛运用必将带来巨大的社会利益，而此类程序设计仅会造成个别行人死亡，前者带来的利益显著优于后者，故只要满足概括性的利益衡量和有立法设定的注意义务，就可以成为被容许的风险，从而不能将其造成的损害归责于使用者、生产者或设计者。⑩本文不赞成此种观点。首先，被容许的风险必须满足利益衡量之要求，即带来的社会利益必须远远大于其风险。如果漫无边际地对行为的风险性和有用性进行笼统地比较衡量，就会变成完全不能计量的利益衡量，其结果恐怕是因预先设定了想得出的结论，并以此为前提进行比较衡量，自然会得出预先设定的结论。(11)退一步而言，即便对所有的风险与利益进行衡量，具体至本文所探讨的情形中，也未必能够得出此类情形属于满足利益衡量之结论，因为论者只讨论了自动驾驶汽车给社会带来的利益，对其可能造成的后果却只字未提。允许编程者为了保护乘客而撞击路人，其实质是认可“合法杀害无辜者”的行为，若此种程序被安装在自动驾驶汽车上，则道路上的每一个行人都可能成为自动汽车紧急避险的牺牲品。届时，每个人可能都会问一下自己：是否还愿意在道路上行走?(12)概言之，在社会存在诸多危险的前提下，认为即使导致一定的牺牲也要优先科学技术的进步等社会整体利益的观点，只是一个价值判断。(13)因此，若自动驾驶汽车的发展必然会造成无辜路人的死亡，我们也完全可能形成相反的价值判断，即认为此类行为必然引起民众恐慌，直至造成国人行动的萎靡。
其次，论者的观点显然是建立于客观归责理论之上的，该理论认为符合构成要件的行为必须是制造了法不容许的风险之行为，如果没有制造不被容许的风险，便不属于构成要件行为，能够直接排除归责。(14)相比一般的对生命的紧急避险，自动汽车的紧急避险当然存在特殊性，但这并不影响此种行为构成要件符合性的认定。从客观方面分析，确实是自动驾驶车辆的撞击行为导致无辜路人的死亡，这一点无可否认；从主观方面分析，无论行为人动机如何，即便其并不愿意看见被害人死亡结果的出现，但行为人(乘客及制造商)在一开始就知道此种设计程序的存在，仍驱车上路并造成他人死亡的结果，至少对结果存在间接故意。是以，此种对生命的紧急避险必然不属于构成要件前行为。故接下来的问题在于，法律能否对符合构成要件的行为撤回评价，让其重新成为“构成要件前行为”?答案显然是否定的。从刑法教义学的规范评价来看，刑法中的构成要件并非价值中性的存在，刑法只将值得科处刑罚的举止类型化为构成要件行为，立法者在规定构成要件时，也必然会对符合构成要件的行为进行实质性的评价。事实上，通过在刑法中设置相应的构成要件，法秩序其实就已经明确体现出原则上对相关行为加以禁止的价值判断。(15)因此，当一个行为被法律宣示为符合构成要件时，该行为在一定程度上就被认定为具备法益侵害性，即被推定为不法行为。而对于一个已经该当构成要件的行为，就算最后能够阻却违法或者阻却责任，我们也不能说立法者在此时撤回了法规范或者放弃对该行为进行评价。无论如何，对于行为构成要件该当性的肯定，便已经评价了该行为是一个具有法益侵害性的行为，至于之后是因为具有违法阻却事由而推翻不法推定，或是因为具有责任阻却事由而排除责任，都只是为构成要件该当行为所设计的解脱规则(Freigaberegelung)。(16)因此，一个符合构成要件该当的行为，要么排除违法性，要么排除罪责，要么成立犯罪，不可能再后撤成为构成要件前行为。
如与前述观点不同，Hilgenforf教授将容许的风险视为违法阻却事由，并在此基础上论证此类行为的合法性。Hilgenforf指出，制造商确实造成了一个符合构成要件的违法结果，但并没有违反注意义务，因而能够通过被容许的风险予以出罪。(17)但此种观点亦值得商榷。一方面，自动汽车紧急避险并不符合容许风险之成立条件。如果认为容许的风险能够阻却违法，就会得出只要行为是被容许的，即便出现了法益侵害之结果，也应当一律被正当化的结论，但这与容许的风险理论并不相符，因为“一种行为的风险被容许，也不意味着侵害结果被容许”(18)。例如在被许可的速度范围内高速驾车的行为人，之所以无须对造成的不法结果承担责任，并非因其享有杀死其他交通参与者的权利，而是因为其没有违反注意义务，因而缺乏主观过失。因此，被容许的风险只能排除行为不法，不能排除结果不法，(19)更不能发展出杀人的权力。(20)而且如后所述，在此类情形中，消费者是有意识地利用车辆预设程序侵害他人生命，因此主观上存在故意，不能以容许的风险理论出罪。另一方面，自动汽车紧急避险并不符合容许的风险“普遍性利益”之要求。在案例2中，死亡结果并不是被容许的风险(如程序失灵、车辆失控等)直接造成的，而是被原风险指定的目标(自动汽车)通过预设程序转嫁所造成的——他们原来并不需要承担这部分风险，预设程序的行为其实对乘客与路人的生存机会进行了不均匀的分配。然而在现代法治国家，国家不可能拥有、也不可能赋予任何群体“合法杀害无辜之人”的权力，故任何将自身所遭遇的风险转移给他人的行为，都不可能符合法律的要求。而且，容许的风险必须是为社会带来普遍利益，而非牺牲某一部分群体的利益去满足另一部分群体之利益。此种风险转嫁行为，为了满足乘客的一己之私，剥夺了无辜路人生存的机会，完全忽略了路人的生命法益，没有为社会带来“普遍利益”，故对于自动驾驶汽车的使用者而言，无法通过此概念来排除电车难题中对他人造成损害结果的客观归责。(21)
最后，将自动汽车紧急避险认定为容许的风险，难以解释其与传统紧急避险在规范评价上的差异。其一，在传统紧急避险中，当行为人将自身遭受的危险转嫁给他人，并造成严重损害之时，仅能够阻却责任。那为何在自动驾驶汽车实施转嫁行为时，就能够阻却违法?其二，人工驾驶汽车撞击路人与自动驾驶汽车撞击路人的区别仅在于，前者是行为人遇到风险时自行做出决定，后者是行为人通过预先设定的算法来侵害无辜行人的性命，是一种特殊情况下的“预谋杀人”，(22)为何前者只能阻却责任，而后者却能成为容许的风险而阻却违法?其三，若行为人自行设计程序，并利用该程序实施对生命紧急避险的，当然也难以阻却违法，那为何行为人利用厂家设置好的程序实施避险行为，就能够阻却违法?对上述问题，支持该说的学者却并未给出任何解释。
与之类似，我国台湾地区学者张丽卿指出，对程序设计上顾及“两难困境”而发生了“牺牲少数成全多数”的伤亡，合理的评价应该是程序设计者把高度危险降为低度危险，等于没有制造危险，没有实现客观的构成要件。(23)本文不赞成此种观点。一方面，此种情形并不属于客观归责中的风险降低。Roxin教授指出，行为人减小对被害人已经存在的危险时，风险的创设及其可归责性才不会存在。例如当一个人看到一块石头向另一个人头上飞去时，他将石头引向其身体的其他部位。(24)故在客观归责体系中，原有的风险及减小后的风险所针对的是同一对象，如此才能认为行为人没有创设法不容许的风险。然而在案例2中，原有的危险与减少的危险的对象并非同一人，它虽减少了针对原被害人的风险，但创设出了针对新被害人的风险。因此，此种情形并非纯粹的风险降低或风险替换(Schadensaustausch)，而是一种新风险的创设(NeueRisikoschaffung)。另一方面，依论者的逻辑，所有保住更多人性命或更重要法益的行为，都能够因“没有制造危险”而出罪，但此种做法与传统功利主义紧急避险并无二致，即完全忽视了其他路人法益的独立性，将之视为可以计算的数字，严重侵犯人性尊严。因此，此类造成了新的法益损害的风险降低情形应当通过推定的同意(同一主体间)、紧急救助(同一主体间)或者紧急避险(不同主体间，即本文讨论的情形)等违法阻却事由合法化，(25)在无法通过其他违法阻却事由阻却违法的情况下，应当承认其行为的违法性。
(三)阻却违法说之否定
在论证了自动驾驶汽车紧急避险的行为符合故意杀人罪的构成要件该当性后，便可以继续探讨此行为能否通过各类正当化事由阻却违法。从笔者搜集的资料分析，几乎没有学者赞成此种观点。德国与我国的通说均认为生命不可衡量，(26)案例2中的情形并不满足利益衡量原理，因而难以通过紧急避险合法化。但值得注意的是，虽然学界无争议地认为生命不可衡量，但并未给出此种观点的实质理由。更为吊诡的是，在司法实践与其他教义学理论中，学界似乎又默认“生命可以衡量”。一方面，依据笔者所能够查阅到的资料，即便在众口一词“生命不可衡量”的德国，也未有学者对此原则做出详尽的解释，而只是空洞地指出“源自基督教伦理(christlichen Sittenlehre)的主流文化观念”，排斥适用“两害相权取其轻”的基本原则，拒绝依照社会整体结果权衡杀害行为的不法程度。(27)但是，在基督教并非一家独大而价值多元化被普遍接受的现代社会，这种诉诸某一宗教特有的、传统的论证显然难以令人信服；而且在我国，基督教的受众群体相对狭小，此种理由便显得更加无法服众。
另一方面，若生命不可衡量，则无论数目多少，我们均应对其一视同仁，但这样的论述在世界各国的司法实践中却并未得到认可。例如，2010年4月我国最高人民法院刑三庭印发的《在审理故意杀人、伤害及黑社会性质组织犯罪案件中切实贯彻宽严相济刑事政策》便明确指出：一般认为故意杀人、故意伤害一人死亡的为严重后果，致二人以上死亡的为犯罪后果特别严重。又如，日本最高裁判所在撤销高等裁判所判处19岁的少年用窃取来的手枪杀害4人以劫取财物的判决中也明确指出：在综合考察了犯罪的性质、动机、样态，特别是杀害手段方法的执拗性、残忍性、结果的重大性，尤其是被杀害的被害人的人数……各种情节后，认为其罪责确属重大……应该说也允许选择死刑。(28)更有甚者，绝大多数德国学者均认为，在义务冲突中，义务人必须拯救人数更多的一方，否则便会遭受刑罚。(29)Hilgendorf教授面对电车难题也明确指出，当所有人面对同样的危险时(即处于对称危险共同体中)，如果既认为杀害无辜者是违法的，又要将损害最小化，则只能够将不法分级。在此情况下，牺牲较少的乘客才是更小的恶。(30)由此可见，世界各国的法秩序均认为更多的生命是价值更为重大的法益，杀害或者不拯救更多生命的行为具有更为严重的违法性。那么为何在上述情况下可以认为生命数量会影响不法程度，而在紧急避险的场合又坚持生命价值不可权衡的原则?对此问题，学界并未给出任何解释。正因为如此，德国学者Hrnle才旗帜鲜明地否定国家在任何情况下都具有保护公民生命的责任，转而认为生命法益也可以衡量。(31)
但需要注意的是，生命可以衡量的观点同样难以证成案例2中行为的合法性。德国通说认为，紧急避险的正当化依据在于社会连带义务，即作为社会成员，每个人在参与社会共同生活时，基于人类社会不可或缺的互助要求，都需要承担一定的社会义务。(32)详言之，在建构法秩序时，所有的参与者都是理性且自利的，(33)他们清楚地知道自己在将来可能陷入紧急状态之中，且依赖于其他民众的协助。故出于自利的本性，他们都会同意在他人重要的基本利益遭遇危险时忍受自身轻微的身体损害(34)或者个别的、可替换的法益，(35)以换取自己在重要法益遭受危难时，他人也可以忍受轻微的利益损失来保全自身的重要法益。(36)然而生命是最为宝贵且不可恢复的法益，故在正常情况下，理性人绝不可能愿意通过牺牲自己的性命以挽救他人的生命。(37)概言之，无论生命是否可以衡量，案例2中的行为均难以成立阻却违法的紧急避险。
部分德国学者认为，案例2中的情形能够通过义务冲突予以合法化。如Greco教授指出，此种情形涉及救助义务的冲突，应当设置自动汽车保住大部分人的性命的程序设计。(38)Neumann教授也认为，此种情形下可以适用作为义务冲突的解决规则，即对于相同等级的义务冲突，行为人可以在其中做任意选择；只要他履行了两个义务中的一个，就没有实施任何不法。(39)本文不赞成这种观点，因为案例2并不符合义务冲突的前提条件。不言而喻，义务冲突的前提条件是同时存在多个义务，而义务的重要性又取决于被保护的法益的重要性。(40)所谓义务冲突，是指需要被救助的法益发生了冲突，如A的两个儿子同时落水，A只能救其中一人。与之不同，案例2中行人的生命法益原本并未陷入危难之中，是自动汽车的撞击程序使其生命法益陷入危险。故由始至终，并不存在同时遭受危难的两种法益，因此不符合义务冲突的前提条件。而且从规范构造来看，当行为人履行的作为义务只能够通过违反某个不作为义务才得以实现，其更符合紧急避险的构造。(41)如果认为此类情形均能成立义务冲突，不但紧急避险的条文将被完全空置，(42)还将使得所有为救助多数人而牺牲少数人的行为都能因履行了更高的救助义务而阻却违法，而这无论是在刑法理论还是刑事政策上都是不被赞成的。正因为如此，德国通说认为，在生命冲突的情形中，应当否定作为义务的存在，(43)“允许积极作为是不可想象的”。(44)
综上，罪刑法定主义的确立是为了让国民避免来自国家权力机构的意外打击，但这绝不意味着可以通过违反罪刑法定原则的途径来实现该原则所蕴含的人权保障机能，否则即便最终达到出罪效果，也会因解释路径的错误而违背罪刑法定原则。(45)自动驾驶汽车为了保护乘客性命而实施攻击性紧急避险行为的，完全符合故意杀人罪的构成要件，且并不满足既有违法阻却事由的成立条件，故难以阻却违法。
三、自动驾驶汽车对生命紧急避险的刑事责任主体
如前所述，自动汽车为保护乘客而撞击无辜路人的行为并不能够阻却违法。因而最后的问题在于，在此类行为中，行为的负责人是谁，其是否需要承担刑事责任?如前所述，案例2中的避险人并未做出任何肢体动作，避险行为完全是由预设程序所控制的。然而，根据三阶层犯罪论体系，唯有实施了符合构成要件的行为，才能够被归责。故有必要先行研究实施构成要件的行为主体，而后分析其应当承担的刑事责任。
(一)消费者与销售商均符合故意杀人罪之构成要件
对于何人实施了避险行为的问题，学界存在两种观点。多数学者认为，程序是由生产厂商编写的，故自动汽车实施紧急避险的行为也是由制造商所决定的，消费者并不符合故意杀人罪的构成要件，此时应当由生产厂商承担相应责任。如Weigend教授所指，此时汽车的选择是符合生产者预先安装的算法的，所涉人员的生死在生产汽车之时就已经“在无知之幕后”被决定了，而且在此阶段已分配了生存机会。(46)我国也有学者认为，如果自动控制系统的设计者通过编写程序将自动驾驶汽车作为犯罪工具，操纵其侵害道路交通安全并构成道路交通犯罪，应依法追究设计者的刑事责任。(47)与之相对，少数学者认为，此时应当由使用者承担责任。如Englnder教授认为，从因果关系的角度考察，自动驾驶汽车紧急避险中所实现的法益侵害结果都产生于使用者发动汽车的行为，故损害结果应全部归因于使用者启动自驾车，故使用者只能成立阻却责任的紧急避险。(48)
本文赞成少数说，认为消费者完全符合故意杀人罪的构成要件。首先，从客观方面分析，正是乘客启动并乘坐汽车导致自动驾驶汽车触发避险程序，从而造成路人死亡。虽然自动驾驶汽车的程序是由销售商设计的，但销售商已经将汽车交付给乘客，从而对汽车失去了控制；而乘客自主选择汽车，并在完全知情的情况下，利用设计好的程序侵害他人法益，因而能够将损害结果归责于顾客。笔者虽承认所涉人员的生死在生产汽车之时就“在无知之幕后”被决定了，但这并不意味着销售商实施了故意杀人行为，尽管汽车撞向路人的程序是制造商所设计的，但真正购买并让车辆上路行驶的却是乘客。此种情形类似于在正当防卫中，行为人预先设置了自动防御设施，但该设施只是乘客用来保护自己的工具而已。若防卫人购买了一套自动防御装置，在明知其必然会实施超过必要限度的防御行为的情况下依旧将其投入使用，并造成侵害人死亡结果的，将被认定为防卫过当，并成立故意杀人罪。(49)与之相同，由于紧急避险系统在乘客面临生命危险之际才会启动，能够满足紧急避险紧迫性的前提条件，(50)故乘客明知自己遇见生命危险时，自动驾驶车辆会以牺牲他人性命为代价实施超过限度的紧急避险，却仍然启动该系统，并造成无辜路人死亡的结果，其实就是利用预设的程序实施故意杀人行为，理应成立避险过当。如果将消费者乘坐自行设计避险程序的汽车与购买商家内置避险程序的汽车相对比，答案便会更加明显。若消费者在购买汽车后，自行设计并安装了紧急避险系统，从而造成路人死亡的，当然符合故意杀人罪的构成要件。既然如此，其使用制造商设计的程序实施紧急避险的，并不会影响消费者成立故意杀人罪，只是在后者中，设计者可能成立共同犯罪。
部分学者否认此时能够归责于乘客的原因在于，引入自动驾驶技术的首先是自动驾驶系统或车辆的生产商，创立风险者并非使用自动驾驶技术的驾驶员或者乘客。而且在具体事故发生时，撞伤他人或毁坏财物是优先选择程序的实现，驾驶员对此并没有行为控制和意思支配。在驾驶员难以被追责的情况下，责任就转移到自动驾驶系统中碰撞回避程序的提供者身上。(51)本文不赞成此种观点。一方面，此时乘客虽然没有现实的行为控制，但其已经通过启动汽车并激活预设的程序表现出了对汽车的控制。此类情形如同行为人购买他人编写的特定条件下会被激活的电脑病毒软件，并将其装入他人所有的电脑一般，虽然在造成法益侵害的结果时缺乏现实的行为控制，但仍然能够归责于行为人。我国有学者指出，在故意犯罪的场合，行为人都会利用因果关系造成法益侵害结果，故对于“行为”不宜狭义地理解为着手后的行为，而宜理解为与结果的发生具有因果关系的行为。只要行为人开始实施与结果发生具有因果关系的行为时具有责任，就能够对之进行谴责。(52)既然乘客在购买车辆之时便已经知道此车辆会在遭遇危难时实施避险行为，则其每一次启动汽车都可被认定为存在故意，并且对撞击行为具有意思支配。如果认为行为人必须在法益损害发生时有行为控制和意思支配才需要承担相应责任，则所有的隔时犯都将无法进行归责，这显然让人难以接受。另一方面，论者的观点显然有自相矛盾之处。从其“驾驶员并不能被追责，责任就转移到自动驾驶系统中碰撞回避程序的提供者身上”的论述中不难发觉，其暗含的逻辑是因为无法追责驾驶员，所以必须向生产商追责。但是，在车辆已经由制造商完全转交给了行为人的情况下，何时启动、选择哪条道路等完全是由乘客决定的，制造商对车辆的行为控制与意思支配显然不及乘客，又如何能够越过乘客被追责?刑法本就具有残缺性(fragmentarisch)，并非一切的社会损害都要强横地找人来承担刑法后果。(53)故我们并不能够因某人不负有刑事责任便直接认定其他与犯罪结果有因果关系的行为人需要承担刑事责任。而且依论者的逻辑，很容易推导出“有人承担责任，其他人就毋须承担责任”的结论，但这样的结论显然与如今共犯的规定不符。因此，必须从规范层面判断制造商是否能够被归责，而不得将责任“转移”至其身上。
其次，从主观上分析，乘客亦完全符合故意的心理。在自动汽车紧急避险的情形中，行为人已然知晓当自己遇见危难时，自动驾驶车辆会以损害他人为手段保护自身安全，因而满足故意中的认识要素。此外，乘客在明知自动驾驶车辆在上路行驶后，遇到紧急状况时会以他人生命为代价实施避险行为，却仍然启动并乘坐车辆，故其对车辆在紧急状况时侵害他人生命的行为至少持放任态度，因而满足故意中的意志要素。德国学者Wagner指出，虽然自动系统的具体行动无法预测，但是这并不意味着这些系统的风险在事前无法被认识到。相反，汽车生产商事实上认识到并且接受了自动驾驶汽车的安全风险，因为它们是由算法控制的。(54)不难看出，其认为生产商应当承担责任的原因在于，自动驾驶汽车是由算法所控制的，商家虽不知晓汽车何时会给路人造成损害，但由于其在设置程序时完全能够预见到上路后的风险，故能够认识并接受汽车给其他人造成的安全风险。其实，Wagner教授的逻辑同样可以适用于自动汽车紧急避险的消费者之中：虽然自动驾驶汽车是由程序所控制的，但如前所述，消费者在购买且投入使用之时，就已经知道汽车会为了自己的生命安全实施避险行为，故其已然认识到并接受汽车实施紧急避险给他人所造成的损害，因而在主观上同时满足故意所要求的认识与意志要素，符合犯罪成立的主观要件。一如学者所言，使用者使用有发生事故风险的汽车，知道并接受了其可能造成事故的风险，就应当承担相应的道德责任。(55)
此外，我国有民法学者认为，在造成损害的情况下，应当由预设了算法的生产厂商负责，因为从自动驾驶运行原理来看，由消费者一方承担责任并不合适。在自动驾驶取代人工驾驶之后，系统自行监测驾驶环境，承担驾驶任务，而使用人并不实际控制汽车的运行，让其承担责任显然不公。(56)笔者认可论者所言的观点，但同时认为，这并不代表使用者在自动车辆紧急避险中不需要承担自动驾驶汽车撞向路人的刑事责任，因为消费者在这两种情形当中的主观心态并不一致。依《侵权责任法》及《道路交通安全法》的相关规定，承担侵权责任的前提条件是自动驾驶车辆违反了相应的交通规范并造成了他人的损害，但无论法律规定还是现实情况，制造商的承诺必然是“本车的程序完全符合法律规范”。(57)而且在科技日益发达的时代，知识库系统以及专家系统会为自动驾驶车辆储备最完备的交通运输管理法律法规，加上人工智能超强的运算能力，其通常会忠实履行计算机的程序指令，不会违背法律规定。(58)基于信赖原则，(59)消费者完全有理由相信制造商所设计的程序在非特殊情况下都会遵守交通规范，故其对自动驾驶车辆违反交通规则进而造成交通事故的行为并不具有预见的可能性。故如前所述，与上述消费者并不存在过失的情形有别，行为人完全知晓自动驾驶汽车在紧急情况下会给他人造成损害，因而符合故意犯罪的成立条件。总之，普通交通肇事行为是生产厂商因程序设计缺陷等原因造成的，消费者对此种事故并不存在过失，当然无须承担侵权责任；(60)而紧急避险中造成他人死亡的行为是消费者有意利用程序设计所造成的，消费者完全知晓制造商的设计，当然需要承担相应的刑事责任。在确定乘客的刑事责任后，制造商因其生产并销售汽车的行为与最终的法益损害具有因果关系，根据限制从属性理论，理应成立帮助犯并负相应的刑事责任。(61)
综上，在消费者明知自动驾驶汽车遇到危难时会实施避险行为，却仍然启动汽车，并最终致使他人死亡。这就相当于其声明同意在紧急状态下，利用自动驾驶汽车会侵害原本安全的第三人以保护自身性命，难以成立阻却违法的紧急避险，应当成立故意杀人罪的正犯，同时制造商也因为其提供杀人工具而成立帮助犯。
(二)消费者无需承担刑事责任
如前所述，消费者与制造商的行为均符合故意杀人罪的构成要件，因而成立共同犯罪，但根据“违法是连带的，责任是个别的”之原理，我们仍需分别探讨二者的刑事责任。在此类情况下，乘客能够成立阻却责任的紧急避险，无须承担刑事责任，而制造商却难以排除责任。部分学者认为，制造商在做出决定时并未处于紧急状态中，故并不会身临其境般地承受压力，因而难以成立阻却责任的紧急避险。(62)按此逻辑，因自动驾驶系统在0.2秒内即可通过传感器感知紧急情况，且这种反应不依赖乘客的行为，而是通过早已预先设定的编程来决定的，故乘客在遇到危难时，其客观上并未实施避险行为，也并未处于慌乱、惊恐等情绪之中，因而难以成立阻却责任的紧急避险。此种观点显然值得商榷。
一方面，我国刑法条文并没有要求避险人处于慌乱等情绪中，因此我们也不应当在条文规定之外，再人为地增加成立条件，这是一种不利于行为人的类推解释，因而有违罪刑法定原则。(63)另一方面，如前所述，故意并不需要存在于实行行为的整个阶段，而存在于行为人开始造成结果和让因果过程进行的那个时刻即可。(64)基于同样道理，避险人的避险意思也同样只需要存在于某一时刻，而不需要存在于实施具体的避险行为时。就此而言，利用自动驾驶汽车实施紧急避险与传统紧急避险在规范判断上完全相同，只是在实际操作中，前者的行为人并未直接实施避险行为，而是利用预设的程序实施避险行为而已。既然学界普遍认为，传统对生命的紧急避险中，不能够期待行为人放弃自己的性命，因而不具有期待可能性。(65)则在案例2中，法律同样不能期待乘客在日后乘坐自动驾驶汽车遭遇生命危险时放弃自己的性命，故其利用自动汽车预设程序实施紧急避险的行为同样因不具有期待可能性而难以成立犯罪。
与之不同的是，生产商明知自己设计的程序会剥夺他人性命，却仍然设计此程序，难以排除刑事责任。对于厂商而言，其在完全可以设计其他程序的情况下，为了获得更高的销量以牟取更大的利益，设计侵犯无辜行人生命的程序，人为地介入了应当由驾驶员自己决定生死的情形中，并且为了利润忽略无辜第三人的法益，将乘车人应当承担的风险转嫁给了无辜第三人，(66)不符合阻却责任紧急避险的规定，理应当承担法律责任。(67)有学者认为，如果让开发商承担研发后果责任，会使制造商因害怕承担责任而降低参与系统研发的勇气和热情，从而大大阻碍人工智能的发展。(68)生产厂商完全可以不设置此类程序从而免于承担刑事责任，然其设立此种程序纯粹是为了追逐更大的经济利益，故本文的观点并不会“大大阻碍人工智能的发展”，而只会降低生产厂商的销售额度；另一方面，认为阻碍自动驾驶技术的发展的观点，只是一个价值判断。换一个角度进行考量，若认为此类行为不构成犯罪，可能会使其安于现状，不思进取——反正无须承担刑事责任，只需要赔钱了事即可。且基于我国不存在惩罚性赔偿的规定，赔偿的金额必然远低于其因此程序所获的利润，故销售商反而因侵害无辜第三人的行为获取大量利润!这无疑是以某种道德上错误的方式通过牺牲他人的利益致富，是一种“不公正的致富”(unjustenrichment)。(69)相反，若认为制造商成立犯罪，则可能会迫使各制造商努力改良程序，以避免事故的发生；或是提高汽车质量，在事故不可避免的情况下，为乘客提供更好的保障，而非为了保障乘客的生命而撞向无辜路人，这两种情况都将促进自动驾驶技术以及汽车制造事业的发展。
综上，消费者利用制造商设计的避险程序，为了保住自身重要法益而侵害他人生命法益的行为虽然难以阻却违法，但因不具有期待可能性而不成立犯罪。制造商明知自己设计的程序会在特殊情况下给他人性命造成损害，仍将其安装在自动驾驶汽车上并对外销售，给消费者侵害他人生命法益提供了物理上的帮助，根据限制从属性原理，理应成立故意杀人罪的共犯。
四、结语：自动驾驶汽车紧急避险的伦理困境
已有资料显示，绝大部分学者对保护乘客持肯定态度，并想方设法为制造商出罪。而在为一个观点辩护之前，我们首先要确认此种观点是否正确。具体至本文所讨论的案情中，我们在为制造商做无罪辩护前，必须思考的问题是，他们真的是无罪的吗?答案显然是否定的，他们为了追逐利益，罔顾无辜路人性命，实在缺乏让其免于处罚之理由。虽然笔者对自动驾驶汽车撞击路人实施紧急避险的行为给出了违法的结论，但至少还有两个与本文直接相关且有待解决的问题：其一，自动驾驶汽车紧急避险的程序应当由谁来决定?其二，既然优先保护乘客的模式并不合法，在自动汽车面临紧急状态时，应当采取何种避险模式?
对于第一个问题，部分学者认为，出于对自由意志的尊重，应当交由行为人自行选择，如Contissa教授设计了一种装载了伦理旋钮(ethical knob)的自动驾驶汽车，以供乘客选择其喜爱的避险模式。旋钮的最左侧档位为“利他”，即牺牲乘客以拯救他人；最右侧档位为“利己”，即牺牲他人以自保；居中档位为“中立”，即依据功利主义原则决策。使用者可依据乘客的数量和年龄或其他因素随时旋动旋钮，确定乘客和第三方在事故决策函数中所占的权重。(70)诚然，让乘客自行决断的做法，确实可以避开后文中强制设定所可能产生的理论上的诸多难题，但却会产生更为严重的问题——此种做法其实也昭示着立法者在自动汽车紧急避险的问题上放弃了法律评价。然而，法律具有行为指引的功能，其应当“引导人们做出内容正确的意愿”，(71)在遇到有关重大利益的事宜，且其他规范均无能为力时，法律理应介入其中，对其进行调整与规范。(72)
显然，对生命的紧急避险所涉及的绝非无关紧要的琐事，而是人的生命这一最高位阶法益遭受侵害的重大事件。如果法律在此类案件中撤回了行为指引，让行为人自行决定，无异于告诉他人可以率性而为，这样的做法无异于在行为时放弃了对身处险境中的遇险人生命法益之保护——即便法律能够在事后让其承担相应的责任。(73)若任由乘客设置避险模式，则国家一方面声称对生命实行比任何其他法益都更为严格的保护，另一方面却在生命遭受威胁时将选择权拱手相让，二者显然有自相矛盾之嫌。诚然，法律绝非万能，现实生活中的许多事情都难以用法律对其进行规制或评价，但对生命的紧急避险已经满足了刑法的构成要件，刑法理应对其作出明确评判，为身处紧迫状况的公民提供行为指导，以告诉公民什么是合法的，什么可以做，什么不能做。(74)因此，允许乘客自主选择避险方案的做法，虽然避免了教义学上的部分问题，却会让民众对法律完全丧失信心，因而不宜采纳。然而，允许乘客自主选择存在缺陷，并不代表统一配置的做法便完美无缺。事实上，此种做法亦存在诸多弊端，至为明显的是，统一配置的做法将违背部分乘客的真实意愿。诚然，出于自利的本性，绝大多数民众在遇到危难的情况下会选择牺牲他人以保全自身性命，但在现实世界中，我们并不能排除存在少数道德高尚之人，他们可能会出于各种原因将生存的希望留给他人。(75)
即便解决了第一个问题，第二个问题更让人难以解答，即此种情况下究竟应当采取何种措施?是优先保护消费者，还是优先保护无辜路人?(76)或是采取功利主义，保护更多的民众?(77)又或者在综合考量双方人数、生还概率等基础上，提出其他更为复杂的算法?(78)显而易见，无论自动驾驶汽车采取何种措施，都会因出现各种弊端而遭受批判。例如，制造商选择保护路人，会造成销量下降，不具有现实操作的可能性；如果采取功利主义，则会因为轻视他人的生命而同样遭到批评，更可能为不法分子刻意利用，例如A试图谋害某人，便可以纠集一群人突然冲到这种汽车前面，汽车可能会突然急刹或转向，并造成车内人员死亡。(79)随之而来的问题是，无论自动驾驶汽车安装了何种程序，只要该产品能够在市场上销售，便意味着其设计的程序符合法律的规定。但是，自动驾驶汽车为何能够被赋予“合法杀人”之权利?其背后的法理(而非法律)依据何在?对上述问题，本文亦难以给出答案，因为此问题已经不是自动驾驶汽车所独有，而是紧急避险中最为经典的“生命抉择”问题，已非笔者能够解决。但有一点是毋庸置疑的，即在自动驾驶汽车紧急避险的伦理问题尚未解决以前，政府不应当让其正常上路，否则无异于承认自动驾驶汽车在紧急状态下可以“合法杀人”，为“对生命紧急避险”的违法行为披上合法外衣。
注释：
①Vgl.Philip Weber,Dilemmasituationen beim autonomen Fahren,NZV 2016,S.249 f；金梦：《立法伦理与算法正义——算法主体行为的法律规制》，载《政法论坛》2021年第1期，第31页。
②Vgl.Roxin/Greco,Strafrecht Allgemeiner Teil Bd.1,5.Aufl.,2020,§16,Rn 72 ff.
③Vgl.Thomas Weigend,Notstandsrecht für selbstfahrende Autos,ZIS 2017,S.602.
④Vgl.Ethik-Kommission,Automatisiertes und Vernetztes Fahren Eingesetzt durch den Bundesminister für Verkehr und digitale Infrastruktur,Bericht Juni 2017,S.11.
⑤参见王钰：《生命权冲突的紧急状态下自动驾驶汽车的编程法律问题》，载《浙江社会科学》2019年第9期，第78页。
⑥Vgl.Hilgendorf,Autonomes Fahren im Dilemma. zur moralischen und rechtlichen Behandlung von selbstttigen Kollisionsvermeidesystemen,in:Hilgendor(Hrsg.),Autonome Systeme und neue Mobilitt,2017,S.170 f.
⑦Jean- Bonnefon/Azim Shariff/Iyad Rahwan,"The Social Dilemma of Autonomous Vehicles",352 Science 1573,1573(2016).
⑧参见骆意中：《法理学如何应对自动驾驶的根本性挑战?》，载《华东政法大学学报》2020年第6期，第49-60页。
⑨同样观点参见陈景辉：《自动驾驶与乘客优先》，载《华东政法大学学报》2020年第6期，第6-19页。
⑩Vgl.Sabine Gle/Thomas Weigend,Intelligente Agenten und das Strafrecht,ZStW 2014,S.590 f；朱振：《生命的衡量——自动驾驶汽车如何破解“电车难题”》，载《华东政法大学学报》2020年第6期，第33-34页。
(11)参见[日]佐伯仁志：《刑法总论的思之道·乐之道》，于佳佳译，中国政法大学出版社2017年版，第258-259页。
(12)Vgl.Liane Wrner,Zur strafrechtlichen Verantwortlichkeit des Programmierers im Notstand für Vorgaben an autonome Fahrzeuge,ZIS 2019,S.48.
(13)参见[日]前田雅英：《许された危险》，载[日]中山研一等编：《现代刑法讲座》(第3卷)，成文堂1979年版，第29页。
(14)前述持容许的风险说的学者更是明确指出了这一点，参见储陈城：《自动汽车程序设计中解决“电车难题”的刑法正当性》，载《环球法律评论》2018年第3期，第98-99页。
(15)Vgl.Mitsch,Nantucket Sleighride Der Tod des Matrosen Owen Coffin,FS-Weber,2004,S.57 f.
(16)Vgl.Roxin,Rechtfertigung-und Entschuldigungsgründe in Abgrenzung von sonstigen Strafausschlieungsgründe.JuS 1988,S.425 ff.
(17)Vgl.Hilgendorf,Autonomes Fahren im Dilemma. zur moralischen und rechtlichen Behandlung von selbstttigen Kollisionsvermeidesystemen,in:Hilgendorf(Hrsg.),Autonome Systeme und neue Mobilitt,2017,S.164 ff.
(18)张明楷：《论被允许的危险的法理》，载《中国社会科学》2012年第11期，第124页。
(19)Vgl.Urs Kindhuser.,Zum sog.unerlaubten Risiko,in:FS-Manfred Maiwald,2010,S.404.
(20)Kindhuser,Erlaubtes Risiko und Sorgfaltswidrigkeit,GA 1994,S.198.
(21)Vgl.Armin Englnder,Das selbstfahrende Kraftfahrzeug und die Bewltigung dilemmatischer Situationen,ZIS 2016,S.612.
(22)参见白惠仁：《自动驾驶汽车的“道德算法”困境》，载《科学学研究》2019年第1期，第20-21页。
(23)参见张丽卿：《人工智能时代的刑法挑战与对应——以自动驾驶车为例》，载台湾地区《月旦法学杂志》2019年第3期，第102-103页。
(24)Vgl.Roxin & Greco,Strafrecht Allgemeiner Teil Bd.1,5.Aufl.,2020,§11,Rn.53.
(25)Vgl.Bernd Heinrich,Strafrecht Allgemeiner Teil,6.Aufl.,2019,Rn.248.
(26)Vgl.Claus Roxin,Der Abschuss gekaperter Flugzeuge zur Rettung von Menschenleben,ZIS 2011,S.558；周光权：《刑法总论》(第4版)，中国人民大学出版社2021年版，第227-228页。
(27)Vgl.BGH NJW 1953,513(514).
(28)参见最判昭和58·7·8刑集37卷6号609页。
(29)Vgl.Wilenmann,Die Unabwgbarkeit des Lebens beim rechtfertigenden Notstand,ZStW 127(2015),S.903; Manuel Ladiges,Die notstandsbedingte Ttung von Unbeteiligten im Fall des §14 Abs.3 LuftSiG-ein Pldoyer für die Rechtfertigungslsung,ZIS 2008,S.139.
(30)Vgl.Eric Hilgendorf,Autonomes Fahren im Dilemma. zur moralischen und rechtlichen Behandlung von selbstttigen Kollisionsvermeidesystemen,in:Hilgendorf(Hrsg.),Autonome Systeme und neue Mobilitt,2017,S.174.
(31)Vgl.Tatjana Hrnle,Tten,um viele Leben zu retten,Schwierige Notstandsflle aus moralphilosophischer und strafrechtlicher Sicht,in:FS Rolf Dietrich,2008,S.562 ff.
(32)Vgl.Perron.in:Schnke/Schrder(Hrsg.),Strafgesetzbuch Kommentar,30.Aufl.,2019,§34,Rn 1; Seelmann,Ideengeschichte des Solidarittsbegriffs im Strafrecht,in:Hirsch/Neumann/Seelmann(Hrsg.),Solidarittspflichten im Strafrecht,2013,S.43 ff.
(33)参见[美]罗尔斯：《正义论》(修订版)，何怀宏等译，中国社会科学出版社2009年版，第105-106页。
(34)Vgl.Kühl,Strafrecht Allgemeiner Teil,8.Aufl.,2017,§ 8,Rn.9.
(35)Vgl.Khler,Strafrecht Allgemeiner Teil,1997,S.290.
(36)国内支持此说者，参见王钢：《紧急避险中无辜第三人的容忍义务及其限度——兼论紧急避险的正当化根据》，载《中外法学》2011年第3期；刘艳红：《人性民法与物性刑法的融合发展》，载《中国社会科学》2020年第4期，第132页。
(37)关于对生命紧急避险合法性否定更为详尽的论述，参见王钢：《对生命的紧急避险新论——生命数量权衡之否定》，载《政治与法律》2016年第10期，第101-102页。
(38)Vgl.Greco,Autonome Kraftfahrzeuge und Kollisionslagen,in:FS-Kindhuser,2019,S.173 ff.
(39)Vgl.Neumann,Der Rechtfertigungsgrund der Kollision von Rettungsinteressen-Rechte,Pflichten und Interessen als Elemente der rechtfertigenden,Pflichtenkollision,FS Roxin,2001,S.429.
(40)Vgl.Rnnau,in:Leipziger Kommentar,13.Aufl.,2019,Vor §32,Rn.115.
(41)Vgl.Urs Kindhuser,Strafrecht Allgemeiner Teil,9.Aufl.,2020,§18,Rn.2.
(42)Vgl.Tatjana Hrnle,Wolfgang Wohlers,The Trolley Problem Reloaded:Wie sind autonome Fahrzeuge für Leben-gegen-Leben Dilemmata zu programmieren?,GA 2018,S.15.
(43)Vgl.Zimmermann,Rettungsttungen Untersuchungen zur strafrechtlichen Beurteilung von Ttungshandlungen im Lebensnotstand,2009,S.126 ff.
(44)Liane Wrner,Zur strafrechtlichen Verantwortlichkeit des Programmierers im Notstand für Vorgaben an autonome Fahrzeuge,ZIS 2019,S.44 f.
(45)参见刘艳红：《法定犯与罪刑法定原则的坚守》，载《中国刑事法杂志》2018年第6期，第67-68页。
(46)Vgl.Thomas Weigend,Notstandsrecht für selbstfahrende Autos,ZIS 2017,S.602; Hevelke/Nida-Rümelin,Selbstfahrende Autos und Trolley-Probleme:Zum Aufrechnen von Menschenleben im Falle unausweichlicher Unflle,in:Jahrbuch für Wissenschaft und Ethik 19,2015,S.10 ff.
(47)参见侯帅：《自动驾驶技术背景下道路交通犯罪刑事责任认定新问题研究》，载《中国应用法学》2019年第4期，第101页。
(48)Vgl.Armin Englnder,Das selbstfahrende Kraftfahrzeug und die Bewltigung dilemmatischer Situationen,ZIS 2016,S.611 f.
(49)参见[德]希尔根多夫：《德国大学刑法案例辅导(新生卷·第三版)》，黄笑岩译，北京大学出版社2019年版，第91页。
(50)关于紧急避险中紧迫性的理解，参见王俊：《销售无害违规药品行为的出罪机制重构——以违法性认识为视角的分析》，载《苏州大学学报(哲学社会科学版)》2021年第4期，第106-107页。
(51)参见王莹：《法律如何可能?——自动驾驶技术风险场景之法律透视》，载《法制与社会发展》2019年第6期，第108页。
(52)参见张明楷：《刑法学(上)》(第6版)，法律出版社2021年版，第405页。
(53)Vgl.Zaczyk,Die Notwendigkeit systematischen Strafrechts—Zugleich zum Begriff,fragmentarisches Strafrecht,,ZStW 123,S.691.
(54)Vgl.Gerhard Wagner,Produkthaftung für autonome Systeme,AcP 217(2017),750.
(55)参见白惠仁：《自动驾驶汽车的“道德责任”困境》，载《大连理工大学学报(社会科学版)》2019年第4期，第17页。
(56)参见郑志峰：《自动驾驶汽车的交通事故侵权责任》，载《法学》2018年第4期，第21页。
(57)若制造商明确告知消费者，本车的设计程序不符合法律规范，消费者仍然坚持购买，则其也应当承担部分侵权责任。
(58)参见彭文华：《自动驾驶车辆犯罪的注意义务》，载《政治与法律》2018年第5期，第91页。
(59)关于自动驾驶汽车中的信赖原则，参见陈尔彦：《德国刑法总论的当代图景与变迁——以罗克辛〈刑法总论教科书〉第五版修订为线索的展开》，载《苏州大学学报(法学版)》2020年第4期，第118-119页。
(60)See.Gary E.Marchant/Rachel A.Lindor,"The Coming Collision Between Autonomous Vehicles and the Liability System",52 Santa Clara Law Review 1321,1327-1328(2012).
(61)Vgl.Armin Englnder,Das selbstfahrende Kraftfahrzeug und die Bewltigung dilemmatischer Situationen,ZIS 2016,S.615.
(62)Vgl.Liane Wrner,Zur strafrechtlichen Verantwortlichkeit des Programmierers im Notstand für Vorgaben an autonome Fahrzeuge,ZIS 2019,S.46; Thomas Weigend,Notstandsrecht für selbstfahrende Autos,ZIS 2017,S.604.
(63)参见王钢：《正当防卫的正当化依据与防卫限度——兼论营救酷刑的合法性》，台湾元照出版公司2019年版，第92页。
(64)Vgl.Roxin/Greco,Strafrecht Allgemeiner Teil Bd.1,5.Aufl.,2020,§12,Rn.90.
(65)参见刘艳红：《调节性刑罚恕免事由：期待可能性理论的功能定位》，载《中国法学》2009年第4期，第120页。
(66)驾驶传统非自动汽车的司机可能会因为惊慌或不知所措而不实施避险行为，第三人也就不用遭受损害，而内置了避险程序的自动驾驶汽车则必然会触发程序。
(67)参见[德]舒斯特：《自动驾驶下生产商的刑事责任》，李倩译，载《苏州大学学报(法学版)》2021年第3期，第48页。
(68)参见王德政：《人工智能时代的刑法关切：自动驾驶汽车造成的犯罪及其认定》，载《重庆大学学报(社会科学版)》2020年第3期，第135页。
(69)H.L.A.Hart,The Concept of Law,Oxford University Press,1961,p.160.
(70)See Contissa/Lagioia/Sartor,"The Ethical Knob:Ethically-customisable Autonomated Vehicles and the Law",25 Artif Intell Law 365,369-371(2017)；李伟、华梦莲：《论自动驾驶汽车伦理难题与道德原则自我选择》，载《科学学研究》2020年第4期，第594页。
(71)Vgl.Zu Dohna,Die Rechtswidrigkeit als allgemeingültiges Merkmal im Tatbestande strafbarer Handlungen,1905,S.150.
(72)Vgl.Rehbinder,Rechtssoziologie,8.Aufl.,2014,Rn.100.
(73)See.Contissa/Lagioia/Sartor,"The Ethical Knob:Ethically-customisable Autonomated Vehicles and the Law",25 Artif Intell Law 365,371(2017).
(74)Vgl.Walter Gropp,Strafrecht Allgemeiner Teil.5.Aufl.,Berlin:Springer,2020,§5,Rn.46.
(75)参见孙保学：《自动驾驶汽车事故的道德算法由谁来决定》，载《伦理学研究》2018年第2期，第100页。
(76)如德国学者Gless与Janal便指出：既然机器人汽车的乘客已经享有了便利，为什么在紧急状态时他们还可再次让没有参与道路交通的第三者为他们的技术优势承担代价呢?Vgl.Sabine Gless/Ruth Janal,Hochautomatisiertes und autonomes Autofahren—Risiko und rechtliche Verantwortung,JR 2016,S.575.
(77)参见翟小波：《痛苦最小化与自动车》，载《华东政法大学学报》2020年第6期，第48页；Jan Gogoll,Julian F.Müller,"Autonomous Cars:In Favor of a Mandatory Ethics Setting",23 Science & Engineering Ethics 681,695(2017).
(78)See Derek Leben,"A Rawlsian algorithm for autonomous vehicles",19 Ethics Inf Technol 107,111(2017)；李飞：《无人驾驶碰撞算法的伦理立场与法律治理》，载《法制与社会发展》2019年第5期，第167-187页。
(79)参见孙保学：《自动驾驶汽车的伦理困境——危急时刻到底该救谁》，载《道德与文明》2018年第4期，第36页。
