现场 说到阿尔法狗，文科生你们在恐惧什么？

我们终于丢开了《巫师、星舰和外星人》，开始讨论阿尔法狗和围棋，还有人类的命运……...



@杨早：

AlphaGo战胜李世石以后，别人跟我描述这样一种舆论反应：文科生都很担心，这可能代表了一种末日的开启，机械统治人类的时候不远了，就很悲观。理科生都比较乐观，觉得这只是一个人类的开始。然后理科生批评文科生不懂技术，文科生批评理科生没有情怀。

有个编辑来问我说，这到底说明理科的人文教育不够？还是文科的科技资源教育不够？我觉得以上二者皆否，这个靶子本身树得就不太对。

我为什么一直说《巫师、星舰外星人》这本书不太适合讨论，是因为我没有在里面看到科技的伦理问题。反过来，到底AlphaGo这个事情，第一它是否象征曾机器有朝一日会统治人类？第二，机器统治人类是好事还是坏事？假如我们没有办法在地球资源枯竭前去外太空，但是我们可以通过骇客帝国的方式，把自己假设虚拟生活在一个完美世界里面，我们接不接受？我们是愿意面对真实的困难，还是我们可以面对一个虚拟的完美？我觉得这个是可以讨论的。

@邱小石：这个肯定比民科的引力波更有刺激性，因为这个问题更终极。我是这样看AlphaGo的，这绝对是一次人类的节点。

@杨早：那个结论对不对？文科生比较悲观，理科生比较乐观？

@子瑜：理科生的我是悲观。

@白水太白：文科生的我是乐观。

@邱小石：

我不悲观，也不乐观。我从两点来论证，一个就是凯文·凯利说的技术是个生命体，我们根本没办法抵抗它。第二个就是自私的基因，我们其实都是基因的载体，我们都是被利用的。人太自负，觉得我可以控制什么，这是最大的问题。AlphaGo带来的冲击在哪里？不在于我们都知道大数据、智能都在迅速发展。AlphaGo带来的最大的刺激是没想到这么快。我们一直都认为这个可能需要一个时间，它突然一天就站在你的面前，我把你给欺负了。同时用的是围棋的手段，围棋是什么？大家都说是人类最后的防御地。

为什么它是防御呢？它里面有非常多的模糊和抽象在里面。大家说围棋的变化是10的171次方，但是那个算法我认为不准确，那个还是把它量化了。核心的问题是说，当我们投一颗黑子，别人下一颗白子，我在这里面又投一颗黑子的时候，其实这个黑子跟那边那个黑子之间产生场的关系，这个是没有办法描摹的。它们为什么彼此产生关系？它们产生的关系力量有多大？未来可能会产生什么变化？人在下围棋的时候，其实带有自己某种抽象意识的模糊判断，但是AlphaGo尽量的演化和计算它们。比如AlphaGo有一个特点，我们都知道它有四个技术核心环节，比如他一旦认定自己是51%的胜律，就开始下保守围棋，但是人在下围棋的时候不是这样考虑的，人是在考虑什么东西呢？因为围棋是根本没法判断一个人是51%，尤其是布局阶段，怎么可能？因此人在继续下围棋时候，产生的变化很可能是AlphGo远远不能及的。但是这里面恐怖的是什么东西呢？恐怖的是AlphGo用计算的力量颠覆了人的某种可能和我们认为人最有价值的那个部分。

@杨早：不同意。

  @邱小石：我其实是认同杨早的，他用战胜胜负的关系颠覆了，但是我们人想保留的就是这个东西。

@杨早：

我来讲不同意的道理。我们这一代棋迷一般是从中日围棋擂台赛热潮的时候开始学习围棋的，三十年下来，你会发现现在的世界高手，排名前列的越来越年轻。我们那时候的日本的六超，像武宫正树林海峰他们，都可以在55岁或者60岁左右拿世界冠军，但是现在，像柯洁多年轻，1994年的一个小孩，世界排名前三的都没有超过30岁的。自从1988年“世界围棋元年”之后，自从曹薰铉拿到第一届应氏杯冠军，尤其是李昌镐出来以后，韩国崛起称霸世界，围棋就变得越来越胜负。围棋基本上就变成了胜负游戏。换句话说，只要你过了35岁、40岁，你的计算能力、身体素质就跟不上了。以前经常有老将在一线奋战，现在不可能。这就说明围棋走上了另外一条道路。

当上世纪80年代、90年代的时候，日本围棋分两派，一派是胜负师，以胜负为第一原则。一派是求道派，像大竹英雄那种，号称这个棋形不美，打死我不下。不管我能不能赢，我一定不会这么下。

再举个例子，1980年代，当时的国务院副总理方毅问聂卫平，金庸先生是不是香港下围棋最厉害的？聂卫平的回答非常巧妙，说金庸先生是香港名人里面围棋最厉害的。为什么金庸花了那么多钱在围棋上，请那么多国手去他们家住，一天到晚跟他们下棋，但始终围棋水平顶多就是业余三段水平？但你看《笑傲江湖》《天龙八部》会发现金庸对中国古代围棋有很深的理解与共鸣，是因为金庸走的那一条路，是被后来的围棋界特别鄙视的一条路，叫做文人棋，又叫书房棋。这种棋下棋的时候看感觉、看形状、看神韵在里面，不是重在计算目数。现在人类放弃了这种求道派，完全陷于胜负之中，你当然发现在这方面跟计算机差太远了。实际上不是人类最有价值的部分失掉了，而是你的追求被挡住了，你在跟机器拼的时候，你在扬短避长。

@刘畅：我之前做了一个观点讨论类的节目，当时我们放出去一个话题就是“为什么棋手越来越年轻”。也不是年轻棋手的脑力怎么样，而是现在出现了一派，他们都是很年轻的人，他靠计算机给他模拟的各种，去记棋牌的这种方式，相当于他前面打底的部分是由计算机来完成的，这样他才能上台阶特别快，而且以胜负为目的，按这个目标去培训，他的进阶是很快的，他是阶梯性上升的，而不是说文人棋一定要积累到一定程度。这个对应到AlphaGo也很有意思，我不知道李世石是怎么练的，他开始是通过计算机辅助吗？我们当时抛出去的话题就是棋手要不要通过计算机辅助去练棋，来达到他现在的水平。

@邱小石：他不是通过计算机，三、五年前计算机最好的水准也就是业余三段左右，他不可能练它们。因为围棋被挖掘的越来越细节，就跟定式一样，不断的挖掘，布局前20手棋，这个复制性都特别高，围手怎么应接，这个已经被挖掘的特别多，也导致了围棋在所谓的胜负，大家去穷尽这个东西的时候经过了很多的训练，他们训练的是这个东西。

刚才谈到的最核心的问题，比如宇宙美感这种东西，人的艺术和审美和抽象思维的这种东西，计算机能不能通过特别完全、特别理性的方式给复制和颠覆？恐惧的是这个。如果人有一个命运共同体，最后应该固守的，哪怕未来跟机器人打仗，我们靠什么东西能够战胜它们，有没有？哪一个方式是我们有可能的？我觉得要找到这个东西，因为AlphaGo给人的提示是，它下棋有些地方也很美，因此完全通过理性和计算也能够复制人的抽象和感性思维能力，这是恐惧的。

@杨早：这不是复制，我觉得这是相遇而已。数学之美，有的数学显的非常美，是因为它复制自然，不是复制人的。

@邱小石：因此那五盘棋，我们可不可以理解，第四盘输棋是AlphoGo产生的同情心？有这种可能性。如果作为两个个体讲，我知道你的技术能力，但是你感情的方面我不知道。但是AlphaGo，当它已经有这么抽象和这么复杂的计算能力的时候，可不可能衍生出某种情感和情绪？

@杨早：如果它有，是更可怕的事情。

@半价优惠：我可以从技术的角度来简析一下AlphaGo，刚刚说的第四局是不是怜悯心，根本不是，就是一个BUG。稍微有一个移位，只要错了，后面就连环错，全部计算错。

@邱小石：我跟我儿子下棋，他老下不过我，我为了刺激他一下，于是我就下BUG，你说有什么差别？

@半价优惠：除非是刚开始设定的程序就规定了什么情况下我可以让你赢一局，但是我相信工程师不会这么做的，因为这没有任何意义。

@刘洋：邱老师说的这个还不是工程师设计的，它就是计算机自己衍生出来的。

@杨早：这一点无法证实，也无法证伪。但是从邱小石自己出发，他愿意相信这个结果。

@邱小石：在我看来，它就是一个生命体了。

@杨早：我们一直聊对抗机械什么的，我现在想问的是，被机械统治有什么不好？机器统治社会，至少规则是明细的，而且是硬性的。我为什么就觉得机器统治我，就比人统治我好？

@邱小石：这个又会演化到哲学问题了，就是人存在的价值问题。

@白水太白：人存在为什么一定要有价值？AlphaGo前提是有感情的，有价值判断的，这个前提是存在的，因为AlphaGo作为这个东西训练，它只适用在围棋领域，其他领域并不适用的。

@半价优惠：AlphaGo从当初的机械学的角度上设计，就是下围棋，不干别的事，你把这个模型套进别的肯定失败，完全不够用的。

@大史：有没有一个更超级的机器，它能够适有于所有的事情。

@半价优惠：这个东西，我相信是会出来的。

@杨早：但是模拟人类情感实际上是最困难的。而且，为什么要模拟人类情感？

@半价优惠：

我接着刚才说的，因为刚才提的问题是，围棋突然被AlphaGo把问题解决。其实这不是突然的，就是大家所说的起点不一样，只要过了这个起点，它的增长是翻倍，特别特别快，等你反应过来，机器学习虽然起步于五六十年代，但真正起来发展迅速的，就是最近几年的摩尔定律到了一定程度以后，有的计算起来了。计算两三年之内，翻的特别快，可能几个月一倍一倍的往上翻，所以突然感觉到没有意识的情况下出现了，其实中间有大量的积累过程。

再举个例子，谷歌的无人驾驶搞了七八年，为什么这几年特别火，是因为它在搞前几年的时候，一直在模拟人类，人走到十字路口我要看红绿灯，我要看这个是不是十字路口，我要认路上的障碍物，是人还是汽车。它在人的思维里面陷住了，所以搞了三四年永远通过不了。后来我们的技术再往前走，包括计算量越来越大，包括云，他们发现不需要人的思维了，我用地图，一下解决80%的难性问题。道路不用识别了，地图上就这一条路。

但是机器模拟人，那它的计算量太大，大到它根本没法负担。他把这个模型精简以后，我只用算路口的状况就行了，其他所有路口按地图指示给我。地图需要另外一条记录，需要卫星这些东西。相当于说换了一种思维方式来对抗人类，或者说它用它的价值。包括AlphaGo，如果按照我们自己人类来说什么Go，那机器太慢了，虽然它是机器，虽然运算量很大，但是它的运算速度太慢。

包括讨论AlphaGo，你下一盘棋，之前把几千个复制一遍，学习一遍，根本学不到这个程度的，这个东西相当于我们拿人家的短板去较量，存储量、计算量，包括搜索，都是你的短板，我们拿我们的短板碰别人的长处，虽然现在你赢了，但过三五年之后，一定是它赢，因为它进展太快。

@杨早：可不可以这样说，现在我们对人类跟机器的胜负已经不抱有希望了？因为机器走的路不一样，所以我们可以保留人的独特性，因为机器不再走那条路来战胜人类。刘慈欣写过一个短篇，有那种超级电脑，总领宇宙的，但是它始终写不出李白的诗，它把汉字全都组合了一遍。所以说来说去，只要跟胜负有关的东西，恐怕人都很难跟机器拼，任何方面，不管是智力还是体力都不行。所以人的独特性在于那种无关胜负的方面。

@半价优惠：但是在一定的程度之后，它反倒影响人类的智力发展。现在人再来背3.1415926，根本没有任何意义了，甚至几十年之后，“九九乘法表”都不用背了，为什么要背？机器帮我干了，我不需要搜索、不需要记忆、不需要背违章、不需要任何东西，因为机器都可以帮我。我不用算账、不用学数学，机器都可以帮我。很重要的一个问题，这几年为什么肥胖的人越来越多？因为这几年生活越来越舒适，明显就有变化了，对一代两代可能没影响，到最后呢？十代、二十代？离开手机一个礼拜，你还能继续生活下去吗？这很明显，这就是当下，我离开手机和搜索的东西，我还能生活下去吗？

@杨早：你无非要证明人越来越脆弱，那又怎么样？人从原始社会走到现在，一直都处于一种个体越来越脆弱的路上。

@刘畅：我觉得点可能也在于这个，你往哪个方向是更好的问题。我们现在对于好的概念是基于我们先把价值观输入给计算机，计算机知道这个方向是好，于是它不断的演算，同时我们人类也认为这个方向就是好的。但实际上这个方向的好是基于工业社会之后，我们认定的那个叫“更高更快更强”，但实际上这个是不是真正适合人类的“更高更快更强”，那只是那个时间点输入进去的，我们也许到一个终点之后会发现，其实你在一个相反的方向不断的走，这就是价值观的反面。

@半价优惠：还有一个问题，比如未来真的出现一个超级智能，它能推算我们地球未来的人口承载量，它说我一定要减免人口，按照它的数学模型，我就是要干掉一部分人口，干掉谁？谁要死？这就不是人来定了，是机器来定，如果像《骇客帝国》一样，大家都躺那，输着营养液，机器设定，说不行，人太多了，必须要死一批人。

@杨早：你不觉得像《骇客帝国》那样大家都躺在那一动不动，其实消耗的能源会少吗？

@刘洋：到那个时候，人自己就会开始想办法，他不会等着机器来解决这个问题。

@杨早：所以半价你在恐惧什么？

@半价优惠：我没有恐惧什么，对科技来说，我是比较持乐观状态的。

@杨早：很多人说文科生会产生恐惧感，其实我觉得内核里还有一种人类的骄傲，就是我们一定是万物的主宰，我们一定是这个东西的主宰。你骄傲什么？你就好好的当一个将来机器的寄生虫就完了。

阅读邻居第43期

时间：2016年3月19日

地点：读易洞书房

主题：民科的“引力波”

书目：《巫师、外星人和星舰》

参加人：@杨早 @刘畅 @董冬冬 @邱小石 @刘洋 @王婷Aibo @汪燕辉 @白水太白 @居田 @子瑜 @师超鹏 @大史 @梦阳 @半价优惠

[/b]

上三期的记录在这里：

现场 | 有趣，但这是我们常说的“歪楼”

现场 | 邱小石大战杨早，少有的激辩场面

现场 | 通过质疑找到讨论这本书的方法

    关注 阅读邻居