关于人工智能治理面临的挑战
进入 21 世纪的第二个十年，人工智能技术的应用进入快速发展的阶段，随着以 AlphaGo 为代表的深度学习算法的成熟，人工智能技术出现大面积应用的趋势。我参观过深圳和上海的一些企业，可以明显感受到我国人工智能产业所呈现出来的蓬勃发展态势。可以期待，未来人类的生产和生活方式将发生更大的变化，生活将变得更加舒适和便利。
2019年7月，清华大学战略与安全研究中心在世界和平论坛期间举办了三场涉及人工智能技术和治理的论坛，邀请70多位国内外专家学者和企业家围绕人工智能的风险和治理进行研讨。大家比较一致的看法是，人工智能技术是一把“双刃剑”，一方面带来科技革命和产业升级的重要机会，另一方面，也带来新的安全风险，在治理上，人类将面临与以往完全不同的难题。
例如，在立法上需要有新的思维。传统的法律是要以社会基本共识为基础的，因此往往要滞后于社会实践。但是在人工智能技术上，我们恐怕没有这样奢侈的时间条件，因为这项技术的应用影响之快、之大，远不同于传统技术，治理的需求与技术的应用几乎同步出现。
再比如，传统立法者关注的是人与人之间的关系。而人工智能作为“非人行为体”，未来会越来越广泛地参与人类活动，那么，在人机共存，甚至人机冲突的情况下，如何面对和处置人类与机器的矛盾呢？“机器代替人”做决策的情况已经不是想象中的事，波音 737 MAX 的空难就是一个重要的警示。
人工智能的到来对就业模式的冲击也是前所未有的。清华大学战略与安全研究中心人工智能项目组的于洋老师牵头做的《中国青年视角下的人工智能技术（AI）风险和治理》调查项目中，超过 50% 的青年人的头等关切是失业风险。如同以往的技术革命，人工智能将取代大量程式化的工作岗位，同时也会创造出新型岗位和就业机会。挑战在于，如何才能让人才结构的调整跑赢技术的更新迭代和产业结构的跃升。
不能忽视的还有伦理规范方面的新问题。例如，国际上讨论比较多的人群歧视和对个人隐私的尊重与保护等问题。有外国人对我说，中国人不需要隐私保护，我认为这是偏见。我国立法高度重视对个人权利的维护，2018 年 8 月，十三届全国人大常委会第五次会议审议的《民法典》人格权编草案稿，对收集、处理自然人个人信息有明确规定，要求必须“征得该自然人或者其监护人同意”等，而且把个人生物识别信息也纳入了保护的范围。另一项重要进展是国家互联网信息办公室发布的《儿童个人信息网络保护规定》，自2019年10月1日起生效。
中国在创新制度和手段、推进人工智能治理方面加快部署
党中央和国务院对人工智能的部署采取的是发展和治理同步推进的方针。2019年2月，科技部牵头组建了中国国家新一代人工智能治理专业委员会，6月，该委员会发布了新一代人工智能治理八条原则，强调发展负责任的人工智能。工信部在 2017年颁布了《促进新一代人工智能产业发展三年行动计划（2018—2020年）》，其中也对人工智能治理提出了要求。现在的重要任务是如何让这些规则和要求落地，形成有利于我国人工智能健康成长的良性环境。上海在人工智能的研发和应用方面走在全国前列，积极探索治理路径，重视推进国际合作。在科技部和工信部的支持下，上海推动建立了国家人工智能创新应用先导区和国家新一代人工智能创新发展试验区。可以期待，上海在人工智能治理的规则与制度的创新、开展国际合作方面也将走在全国的前列。
考虑到这个新兴领域自身独特的性质，我们一方面要加快对立规和立法的研究，另一方面也要依靠科学界和企业界采取负责任的态度和行为。如果科学家在每一项新技术的研发中都能思考其负面风险，如果制造商在每一个新技术的应用中同步构建风险管理的解决办法，那么，对这方面的挑战就不难找到应对办法，其立法和规范也就不难走出新的路径。
目前很多人工智能企业希望国家在立法和立规上，对人工智能的具体技术应用有法律责任和范围的清晰界定，认为这样更有利于企业的发展，他们在采取一些自律措施的同时，也期待国内整体规则环境和基础条件更快得到完善。
人工智能治理的全球视野和国际合作
人工智能技术的研发和应用是在全球平台上实现的，因此，其治理也不是某个国家或区域的问题，而是涉及全人类的福祉。因此，我们需要有全球视野，拓展全球合作。在这方面，国际社会有过一些经验。例如，核军控和气候变化等难题，都是先在学界、企业界和社会组织中被广泛讨论和推动，最终达成国际共识，形成有效的治理原则和制度。
目前，国际学界围绕人工智能带来的挑战正在进行广泛和热烈的讨论，不少国家和机构出台了相应的法律法规和原则主张。但是，各国间仍缺乏大家共同接受的人工智能治理原则和在价值观和理念上的共识。
中国在人工智能的国际合作和治理上采取的是积极参与的开放态度，也主动搭建了不少平台，乌镇世界互联网大会已经成功举办五届，上海世界人工智能大会也吸引了国际和国内的不少关注，天津的世界智能大会、重庆的国际智能产业博览会等，也都是向世界开放的交流平台。
中美关系的前景也关系到人工智能治理的国际合作。有人认为，美国挑起贸易摩擦，破坏全球贸易体系，是对国际秩序更大的挑战。我觉得确实如此，这是一个主观的破坏性行为，中美关系的动荡对人工智能国际治理的探索也带来一定阻碍。
而现实中，中美学者在人工智能领域的对话与合作关系是相当紧密的。人工智能领域的科技文献数据显示，近几年中国大陆占据发文量榜首，美国紧随其后，两国合作论文数量增长最快，且互为彼此最大的合作对象。
在人工智能技术的快速发展中，中美各有优势。数据显示，在涉及人工智能基础层的算力、数据和算法三大关键要素中，美国在算力和算法上有优势，互联网巨头公司基本掌握着开源算法平台和场景丰富的算法能力，而中国正在积累越来越多的应用和数据资源。从两国的实践看，如果中美无法有效合作形成数据和算法的共同标准，双方的产业和未来发展都将受到很大影响。
2018年习近平主席在致上海世界人工智能大会的贺信中指出，新一代人工智能正在全球范围内蓬勃兴起，要把握好这一发展机遇，处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题，需要各国深化合作、共同探讨。中国愿在人工智能领域与各国共推发展、共护安全、共享成果。
因此，我们需要从相互依存、命运与共的“共同体”意识出发，主动参与和推动国际交流与合作，同时也要认真履行自己的责任，尤其要重视对知识产权的尊重和维护。历史上每一次科技革命都推动了新的国际议程的设置，相信人工智能技术也能成为各国合作的新平台，为全球化增添新的动力。中国人应该也能够为此做出贡献。
对人工智能的国际治理的三点建议
一是开放性。人工智能的技术发展与产业应用是全球高度协作的成果，其未来的发展也依赖世界各国的优势互补、合作共享。因此，在人工智能的治理上也需要保持开放性，集合各国智慧与经验，实现有效的全球治理。
二是合作性。人工智能被认为是一项综合性的“原力技术”，其治理也需要多学科、多领域、多部门乃至多国的共同参与。各国在探讨和构建治理机制的过程中，只有积极开展国际合作，取长补短，才有可能实现有效的治理。
三是客观性。人工智能作为革命性的新技术，难免引发很多误解和怀疑，没有人能准确预测技术的未来结果。国际治理应该秉承中立客观的立场，保护科学家和企业家的创新积极性，尊重人的权利与尊严。
傅莹，清华大学国际关系研究院荣誉院长、国际战略与安全研究中心主任，外交部前副部长
来源：清华大学战略与安全研究中心
