时间：2017年7月21日，下午14:30-17:00
地点：北京兰咖咖啡馆
主讲人：柳渝，法国皮卡第—儒勒.凡尔纳大学副教授
本文系作者为爱思想读者所做专题讲座的整理稿，感谢中科院刘影的记录，以及“随园”的友人参与“模仿游戏”的初步试验。
人、机关系有很多层次，今天借这次机会主要想通过对图灵测试进行解读，回到人文和科学交叉的议题，来探讨人、机伦理关系问题。
缘起
当前人工智能的研究成果和一些对未来发展的预期对人们的认知是颠覆性的，传统的哲学、认识学、伦理学、人类学、社会学等，这些历史悠久的理论几乎无法应对，这种状态像是要被人工智能所终结的人类的地位这一预言的预演！
人类对于人工智能的“恐惧”来自于将“人工智能”等同于人的“智能”，反映的是对人自己未来的不确定性的困惑。来自于人类所面对的自身危机一直根植于人类的知识和认知意识的最隐秘的深处。技术理论中由图灵所提出的“模仿游戏”就是这样一个基本模型。
AI与人、机关系问题
AI的基本问题体现在人、机关系上，包括人、机技术关系，人、机伦理关系。将人、机之间的技术关系提升到人、机伦理关系的高度，是对传统的人文学科严重的挑战，同时也是人类认知的一个巨大进步，某种意义上说，这才是人工智能带来的最大问题！
人、机伦理关系涉及到最令人困惑的问题是：有没有高于人的智能的“人工智能”。《未来简史》的作者尤瓦尔·赫拉利在最近题为“人工智能与人类社会”的演讲中说：AI时代的最大风险体现在，从“人类做主”到“算法做主”，从“人人平等”到“少数精英掌权”，“无用阶级”的增长。这些问题都是人机伦理关系需要考虑的，人、机伦理关系关系具有超越人类伦理学本质的深刻层次：一是人（研发者）如何将传统的人的道德和伦理信念贯彻在自己研发的AI中，使其服从甚至具有人的伦理原则？二是人是否有这种超越能力做到这一点？三是AI在支配它们的物理规律之上有没有或有何种伦理规范？
面对上述人、机伦理关系问题，一线科学家们不得不做出权宜的回答。2017年1月，由“生命的未来研究所”牵头，包括844名AI和Robot领域的专家们联合签署了“阿西洛马人工智能原则”（Asilomar AI Principles），但这些回答是针对研发者的，并没有真正涉及人、机伦理关系。该原则把人、机伦理关系作为不确定性的问题予以回避，一方面等待人工智能发展中这些本质性问题不断的暴露和逐步解决，另一方面期待哲学、伦理学的现代复兴和更新视野的关于科学技术理论和人类世界的未来的理论的融合发展。
图灵的道路
图灵面对计算机和人工智能中两个最基本的问题，一是机器能否判定（任何可定义的数学问题是否有解，判定问题）？二是机器能否思维（机器智能问题）？
为解决“判定问题”，图灵不是通过概念、数学、逻辑或集合论这样的抽象方法寻求“判定问题”的解决，而是将问题实时化，在实体过程中观察、分析问题，得到算法与逻辑判断之间的本质区别。在图灵1936年的论文（《论可计算数及其在判定问题上的应用》）中，图灵模仿人用纸笔进行计算的过程，提出“图灵机”，以此解决计算机“判定问题”。“图灵机”是所有可计算的具体机器的模型，就是说，表达了所有现在以及还没有制造出来的计算机的设计蓝图。
图灵在1950年发表的论文中（《计算机器与智能》computing machinery and intelligence），提出“机器能否思维？”，拒绝直接给“机器”、“思维”下定义，而是提出用“模仿游戏”来回答原问题。与“图灵机”的封闭性不同，“模仿游戏”实际是一个开放的三方关系的研究、检验体系，从而把理论中最困难的三方关系问题以一种多层次关系模式表达出来。因此“模仿游戏”具有人、机在智能上进行对比观察、检验、分析、研究的真正价值。
模仿游戏
“模仿游戏”来自于一个人猜测性别的游戏：需要三个人来玩这个游戏：一个男人(A)，一个女人(B)和一个询问人(C)男女皆可。询问人呆在一个与另外两人隔离的屋子里。游戏的目标是询问人判断出外面的人哪个是男人，哪个是女人。询问人用标签X，Y代表外面的两个人，游戏结束时，他要说出“X是A，Y是B”或者“X是B，Y是A”。为了排除声音帮助询问者得出结论，问题的答案可以写出来，打出来更好。理想的安排是使得两个屋.用远程打印通讯，也可以通过中间人传递答案。而B在这个游戏中的任务是努力帮助询问者获得正确的答案。图灵进一步提出这样一个问题，“如果用一个机器担当A的角色”，将会发生什么情况？同与两个人玩这个游戏相比，询问者判断错误的几率是否发生变化？
迄今为止，“图灵机”仍然蒙着一层神秘的面纱，而“模仿游戏”的丰富意义和价值更没得到人们的基本理解。人们将“模仿游戏”称之为“图灵检验”，“模仿游戏”所包含的丰富的层次（ABC）在“图灵检验”（AC）中被抹平了。
模仿游戏与学习机器
图灵将模仿“成人思维”和“儿童思维”进行了对比：
成人的思维应该是建立在知识（它所接受的教育）与阅历（它所经历的不能被称为教育的事情）的基础上的。
一个儿童的大脑大概就像一个刚从文具店买来的笔记本，只有简单的机制，和许多空白的纸张，我们希望儿童脑中的机制足够少以使它很容易的被编程。
可以说，模仿“儿童思维”比模仿“成人思维”更容易，图灵由此提出基于模仿儿童思维的“学习机器”，包含了现在“机器学习”的思想。
模仿游戏与第三问题
图灵深刻地理解人与机器的比较的困难在于人是无法界定的，一个具有确定性的机器无法去与一个具有不确定性的对象进行直接比较，这是一个在传统哲学中隐藏得很深的困难问题，直到上世纪波普提出“世界3”理论才正式把这个问题表达出来。
但“世界3”理论并没有得到有力的支持和继续深入展开，困难在于，“世界3”理论没有提供一个与传统哲学中的“主、客”关系不同的三方关系模式，所以“世界3”理论只是一个概念关系，没有一个可供展开研究的理论平台，这种困难我们称之为“第三问题”。在此意义下，“判定问题”、“机器智能问题”属于“第三问题。”
图灵的道理与两种“两种文化”
我们认为，“第三问题”与“模仿游戏”的技术模型结合，是人际关系问题研究的一个可行方向，我们进一步把这种研究建立在算法理论和不确定性问题（NP，Nondeterministic Problem）研究的坚实基础上，使抽象性与实证性相结合，期望成为两种“两种文化”融合的一个理论研究案例，并成为AI研究的一种基本思想。
