《北京折叠》郝景芳：3个问题，测出你是人还是机器

人类智慧最精髓的部分是什么？...

在《机械姬》这部电影中，一位有钱的老板请一位科学家为他的人工智能做图灵测试。

作为一个科幻作家，我前段时间也被一位老板叫去，替他测一测，它价值不菲的人工智能是否能够通过图灵测试。

图灵测试：让一个人分别与人工智能和人对话，如果这个人能判断出对方是人工智能，则人工智能还没有达到人类智能；如果不能分辨出对方是人还是人工智能，则认为这个人工智能已经等同于人类的智能了。

我问，你这个机器是什么算法，什么原理？他说是现在最流行的深度学习、强化学习、大数据学习。

我说，好，我用三个小测试就能帮你测出来。这三个小测试很简单，就是人都会的，但机器现在都不会的。

第一个测试题：

如果哥伦布没有发现新大陆，对中国哪个菜系的影响最大？

答案是川菜。

这个问题对我们实在是太简单了，我们都知道哥伦布从美国带回了南瓜、玉米、红薯、花生、辣椒……没有辣椒就没有川菜，所以肯定是对川菜影响最大。

而这是个涉及我们生活常识的题目，尽管所有其他的食物也很重要，但是只有辣椒这个灵魂式的调味品受的影响最大。

但是，这对于人工智能是一个跨界问题，它涉及到历史、饮食等常识，人工智能是答不出来的。

第二个测试题：

找一位女士对人工智能说：没想到今天这么冷。看人工智能如何回复。

如果人工智能回复给她一个天气预报，肯定不是她所希望的。

当然，没有唯一的答案，要根据你和这位女士的关系、女士的个性以及当时的场合进行回复。

如果真的是一个跟你关系很不错的可爱的姑娘，她说这个话也许是想让你把衣服给她，然后顺便抱抱。

但是如果是一个刚正不阿的女上司，她说没想到今天这么冷，你说我抱抱您吧，她说不定会给你一巴掌。因为她可能的潜台词是，你的工作是失职的，为什么没有给我把房间弄得更暖和一点，这个时候你得赶紧说：对不起老板，我下次给您提前安排。

所以，这是因人而异的问题，需要我们理解他人的心思才能给出正确答案。这种问题人工智能是不会解答的。

第三个测试题：

明年可以学英语，也可以学编程，你会选择学什么？为什么？

这种问题对于人类来说也很容易的，我们每天都在看形形色色的广告，每天被各种各样的信息充斥，我们能够根据我们自身选出自己想要的。

但这也是没有正确答案的问题，你要知道自己是一个什么性格的人，未来的目标是什么，该怎么做。

人工智能没有这种认知能力，不能够为自己做决定。当你跟AlphaGo说下围棋，它不会说我不要下围棋，我今天想去看场电影，因为它并没有对于自我的认知。

这种能够从自己出发做决定的能力，是人工智能和人的区别。

然后这位老板接着问，你说的这几个问题实在是太简单了，AlphaGo都这么厉害了，AlphaGo Zero在已经战胜了原本的AlphaGo，它不能很快就学会吗？

我说，我们需要看看AlphaGo会什么、不会什么。AlphaGo厉害的地方在于深度学习。

深度学习是一种基于大数据的统计算法，模仿了我们大脑皮层的神经网络，能够从很多的数据里找到规律。

上一代的人工智能是专家系统，专家告诉你怎么下棋你就怎样下棋，但是这一代的人工智能用了深度学习的办法，可以自己学会下棋的套路。

但是这样的深度学习有其局限性，它只能够处理数据透明、规则明确的一个特定领域的问题。

AlphaGo并不知道它自己在下围棋，也不知道自己是AlphaGo，不知道它战胜了世界上所有的高手，纵使赢了围棋也不会高兴。

它只是在处理一些数据，并没有自我认知能力。

然后老板说，我知道现在算力是进展很快的，过几天我们的计算能力又上了一个新台阶，你说的这些高级能力是不是就能够学会了呢？

我说，其实我相信未来总有一天，人工智能会克服这些难关，学到我刚才说的这些能力。

但是，这是阶梯状的，并不是拿现在的算法增强算力，就一定能够解决所有的问题，而是要跨过一个又一个槛，上一个又一个台阶。

这就像是从前蒸汽机、电力的出现，使人类觉得自己能够解决世界上所有的问题。物理大厦就剩下了三朵小乌云，后来就是这三朵小乌云提出了相对论、量子力学，把人类带入了新的世界。现在人工智能头上的三朵小乌云，是综合认知能力、理解他人的能力、自我决定的能力。综合认知能力

这个在科学界被称为“遗忘的灾难”。一个这样的人工智能只能在一个特定领域里面做一件狭窄的事情，不可能像我们人一样有通识的能力。现在一个深度学习网络只能学习一件事情。当它学习了下围棋，是用整个网络所有的参数来学习这一件事情，当它把围棋领域的数据都学会了之后，如果再去学另外一件事情，就只能放弃前一件事情。



人和人工智能很大的不同，在于人是触类旁通的。

我们学习了政治、经济、历史、社会文化、家庭日常生活的做饭、交通出行，我们会把这些不同领域的事情融会贯通。

人类在我们的头脑当中有一个世界模型，很多时候我们并没有意识到这个世界模型的存在，但是这个世界模型非常重要，它就是我们对物理世界常识的来源。

当我们有了这样的世界模型，当我们在看眼前的一幅二维画面的时候，我们会用自己头脑当中的知识，把这个画面构建成一个三维的、栩栩如生的画面。

例如，我们现在看到礼堂、舞台、座位，我们会觉得这是一个纵深的、三维的场景。可是人工智能没有这样一个世界模型，它需要非常多的计算步骤来分辨图像。

现在有一些实验室已经开始试图用这样的模型来构造视觉。理解他人的能力

现在的技术使得一些人工智能和人的语言对话成为可能，但只有在特定领域的专业问答有比较好的答案匹配。自然语言处理仍是一个难题。

为什么自然语言处理会很难呢？

首先，因为人工智能还不能理解大量的情景，它的头脑里没有对人类世界的通识知识体系，所以理解自然情景会很困难。

现在的语言很多时候使用了优化算法的搜索，你出了一个问题，它去搜索一个答案匹配给你，但是可能并不能真正理解你的意思。

我们人类是怎样相互了解彼此的？

第一，我们用目光接触。



研究共情（也称为神入、同理心、同感、同理心、投情等）的学者会发现，作为灵长类动物的大猩猩可以通过目光交流。人类可以通过目光理解对方，小孩子大概从9个月的时候就有了这种能力。

我们头脑中的镜像神经元可以直接体会到对方的意图和感受。

第二，我们有推己及人的能力。

我们生病的时候希望对方嘘寒问暖，我们就能够推导出对方生病的时候，一定希望我们嘘寒问暖。而人工智能由于没有自我意识和情感，所以很难推己及人。

人工智能在理解他人方面还有很多困难。有很多实验室现在已经开始试图把认知模型带到自然语言处理上，但是成果可能是很久很久以后的事情。自我认知的能力

自我决定的能力需要两个方面的突破：一个是自我表征的能力。人工智能需要能够自己说出来，我自己做这个事情是为什么，然而不知道要到未来多久之后才会产生。

其实人工智能目前并不是一个独立体系，不像我们人类，每个人所有的思想、灵魂都封闭在身体里，并不能随时联通到互联网。而人工智能需要与其他的网络相互联通。

所以，这样产生的自我意识，可能跟人类完全不一样。

现在这几朵小小的乌云是人工智能目前做不到的。未来有可能突破呢？

有可能，但不是现在，因为需要有更强的综合性算法以及更多的技术突破。这时老板问我，你觉得人工智能如何才能达到一个更高的水平呢？

我说，其实最好的方法就是更多地理解人类自身的心智系统是什么样的。

人工智能能够在一个领域做到极致，但人是一个综合协调的系统，并不是单一心智。

人工智能学家马文·明斯在1985年的《心智社会》一书中，把人比作一个社会，人的心智内的每一部分都像一个小人，众多小人一起组成了一个完整的、复杂的社会。



马文·明斯在《情感机器》中说，“我认为人类的尊严来自于人类自身的构造，处理多种情况和困难的不计其数的方法正是人和动物、人与过去所知道的机器的主要区别。”

这是什么意思呢？现在很多时候，当我们制造机器的时候，我们总想寻找一种通用智能解决所有的问题，但人类其实不是这样的，人利用头脑里的综合智能处理问题。

当我们在街上看到车开过来时，杏仁核发出警报，告诉我们躲开危险；

当我们看到一个老人摔倒在街上，同情心让我们想把他扶起来，但是一个批判的声音说，他有可能是骗子，但又有一个正义的声音说，即使他是骗子，这样可怜的老人我也应该帮助他；

……

所以在任何情形下，我们并不是用单一智能来处理日常情况，我们头脑中往往有很多声音。

人工智能可能一个绝顶的武林高手，但我们任何一个人的头脑里都有一个武林门派。

在未来，要让人工智能具有综合协调能力，需要更多地去理解我们人类的心智系统。听了所有这些之后，老板说，好吧，既然人工智能肯定答不出这些问题，我就干脆把这个机器退货吧。

我说不行，耳听为虚，眼见为实，我说的都是理论，不妨真实地测一测，看看人工智能到底如何回答这些问题。

大家都知道图灵测试的方法，将人工智能和人安排在一个幕布后问他们同样的问题。

第一个问题，人工智能说不知道，人也说我不知道。

第二个问题，人工智能说不知道，人说我怎么知道他心里怎么想的。

第三个问题，人工智能说不知道，而人也说，其实我也不知道我接下来想干什么。

当我们反复测试后发现，我们认为人工智能不能回答的问题，人也不能回答，人们也“没想好”。

这个时候，不是人工智能无法通过图灵测试，而是人无法通过图灵测试。

所以，如果这些问题我们也不知道如何回答，那么其实我们是看不出我们和人工智能的区别的。

如果我们也不能理解他人，如果我们也没有了自我表征和自我决断的能力，那么其实我们就无法和人工智能做出区别。人工智能最大的威胁是什么？是误伤人类吗？

不是，汽车也会误伤人类。是故意毁灭人类？

也不是，人工智能还不具有故意毁灭我们的动机或能力。

是取代工作吗？仍然不是，它们会取代一部分工作，但是他们也会制造出更多的就业岗位。

人工智能对我们最大的威胁就在于，当我们过于依赖很多的数据系统后，我们自己变得懒于思考、懒于自我反思，导致智慧退化。



所有人与生俱来带着亿万年生物进化所具有的大脑先天功能。大脑有很多神奇之处，我们自己都没有完全发掘。

我们只有更多地认识到我们和人工智能的不同，理解它们有哪些地方是强于我们的，同时理解到我们有哪些地方和它们不一样，能够把我们自己真正不一样的地方发挥出来，才不会让我们的智能退化，才不会让我们的文明退化。

在我看来，人工智能和人会走两条非常不一样的路，人工智能会做到许许多多我们人类做不到的事儿，会是辅助我们的工具。而人类是可以一直和人工智能携手同行的，不存在威胁不威胁的事情。

人工智能最大的意义就是它让我们更多地理解我们自身。对人工智能思考越多，我们会发现人类的心智系统越神奇。

人工智能在彼岸，我们在此岸。通过对彼岸的遥望，我希望我们能更多地理解我们此岸的人类，希望我们能够有更全景的视角看待我们的世界。今天我讲的故事纯属杜撰，但是我将对于人工智能的思考，凝结成六个科幻故事和两篇现实思考，在我的新书《人之彼岸》里讲述。希望我们每个人都能更多地去理解他人的心思、理解我们自己的心思，能够为自己做出决断。所有这些都是人类智慧最精髓的部分。

内容来源：2017年11月5日，在腾讯第五届WE大会上，中国科幻作家、第74届雨果奖获得者郝景芳所做分享，笔记侠作为合作方，经主办方审核授权发布。11月16日

刘宇昆 × 郝景芳 × 陈楸帆：当未来发生时

无所不能的机器、数字化的记忆、得以永生的人类，科幻小说中的幻想似乎正逐步成为现实……当未来发生时，科幻作家永远是最前卫的思考者，他们将带着自己的最新作品，同我们一起想象未来。

时间 | 11/16（周四）19:30-21:30

地点 | 中信书店 侨福芳草地店

地址 | 北京市朝阳区东大桥9号侨福芳草地购物中心-2层LG2-05美籍华裔科幻作家，专职律师，业余从事科幻小说写作。在他精准细腻翻译下，刘慈欣的《三体》和郝景芳的《北京折叠》分别获得雨果奖。已出版短篇小说集《奇点遗民》《爱的算法》《思维的形状》《杀敌算法》以及长篇奇幻小说《国王之恩》。曾多次荣获雨果奖、星云奖、世界奇幻奖等国际顶尖科幻文学奖项。

小说作家，经济研究员，2016年凭借短篇小说《北京折叠》斩获雨果奖最佳中短篇小说奖。已出版长篇小说《流浪苍穹》《生于一九八四》，短篇小说集《人之彼岸》《去远方》《孤独深处》，文化散文集《时光里的欧洲》。创立儿童通识教育项目“童行计划”。

著名科幻作家，编剧，翻译。曾多次获得星云奖、银河奖、世界奇幻科幻翻译奖等国内外奖项，代表作包括《荒潮》《未来病史》《薄码》《深瞳》等。作品多表现人类在科技发展中的异化，注重文学性与思想性的探索。

11月17日

郝景芳 × 刘慈欣：科幻、未来与教育

科幻能预测社会文明发展吗？人工智能时代将怎样影响我们的生活？未来社会，人的核心竞争力是什么？11月17日，《北京折叠》郝景芳对话《三体》刘慈欣，听中国科幻界顶级大咖、两位雨果奖获得者在知乎 Live 中和你畅谈科幻、未来与教育。立即参与，与他们互动吧！更有机会得到郝景芳签名版新书《人之彼岸》！

报名方式：请长按并识别以上二维码报名

    关注 中信出版集团