人类会被机器奴役吗
李世石败给了阿法狗，标志着人类智能已经被电脑全面超越。对我个人来说倒还好，因为从很多年前开始，我个人的智能就已经搞不过电脑了，无论是围棋、国际象棋，还是星际争霸。但这件事在我的朋友圈里炸了锅，很多科学爱好者变成科幻爱好者，纷纷鼓吹「人类全面失守」，「新的时代已经到来」。悲观主义者甚至想到有朝一日机器背叛人类时，人类将毫无还手之力。——特别要揭发的是我的朋友@动机在杭州老师，他在李世石投子后第一刻就在群里宣称：「人类被奴役的时间已经近了。各位再见，我要去给机器人带路了。」也许是心理咨询师里第一个带路党。 有人说：阿法狗最具革命性的地方在于算法。机器已经可以自我学习，并足以在围棋这种需要经验、直觉，甚至美感的领域，通过几个月的学习战胜人类顶尖高手，说明它很快可以在其它领域追赶甚至超越人类。对于这一点，我深表认同。
我毫不怀疑就在不远的将来——也许是我们的有生之年——电脑就能写一流的小说，画画，谱曲，演奏，拍电影，医疗，设计出让人心悦诚服的产品，烹饪水准也许足以超越米其林三星。在人类几乎全部的领域上，机器不但能够通过图灵测试，甚至可以登峰造极。假如给它足够的时间学习村上春树的小说，它会写出一百万本书，都让人感觉「很村上」，也许比村上本人更村上。心理咨询就更不用说了，咨询师所掌握的那些套路，电脑都能掌握，聊起来保证以假乱真，而且永远不犯错。
不要再抱有盲目的自大感了，说什么「至少机器永远不懂得如何写诗」。请正视机器在一切领域上的可能性。然后我们再讨论：人类有没有必要因此恐慌？
一种恐慌是：在我的专业领域，我干得都不如一台电脑，我会不会失业？
乍一听这是一个很现实的担心。但是，失业的意思是什么？如果是说，有些工作人类不擅于做，或者没那么想做，比如下矿井，比如组装零件，比如做家务，尤其是做饭（尤其是刷碗），我们干脆偷个懒，用机器替代人力。听起来没什么不好，更安全，更方便，更有效率，人类可以坐享其成。当然，我知道大家真正的担心在哪里：我的工作岗位被取代了，没有钱，又怎么可能买得起机器为我们服务？
抱歉，如果要讨论未来的事，就得说，现在的很多概念放到未来是不适用的。
比如钱的概念。我们要知道，「钱」只是一种交换的媒介。跟机器人谈钱没有意义。事实上，一个人需要一样东西的时候，机器人面临的是两种选择：
1）机器人为人提供这样东西。
2）机器人不为人提供这样东西。
第一种可能下，没什么可担心的。第二种可能其实也没什么可担心的，因为它就等于现在的情况。假如——我到时候肯定是要失业的——我没工作了，没吃没喝。满大街的机器人和带路党们看我没钱，都不愿无偿为我提供服务。朱门酒肉臭，怎么办呢？就只有自力更生。一合计，像我这样的人还不少，干脆分工！有人种地，有人织布，有人帮人看病，有人当老师……不靠机器，靠人类自己还不行吗？我们这群人，就从未来返回了现代社会。那也没什么不好的，至少工作岗位又来了。如果其中有人需要心理咨询，我就去做心理咨询。当然了，假如机器有闲情，想必会在旁边看着冷笑：就你那咨询做的，错漏百出，我分分钟超过你！——那您来做呗。
如果人类都不工作，机器（声明一下，机器没有意志也没有感情，我指的是机器背后的公司）就只好无偿地为人类提供服务。收钱，意味着对人类创造的价值还有需要，就说明机器还有更完善的改进方向。没钱这件事（以及真正核心的：无能）反而成就了人类的这一项特权。人类随时可以对机器说：「我没钱。」背后的意思就是，根据等价交换原则，我请不动你。——我那么无能，你那么强大，你根本用不着我为你做什么。所以你要么不为我做事，我自己来；要么你就得无偿地做事。
有人对「无能」也许会很不安。衍生出第二个担心就是，将来机器比人类更有能力，会不会干脆毁灭人类？从理论上来说，人类是有毁灭的可能性，就像核战争也能毁灭人类一样。魔人布欧杀死所有地球人，只用了几秒钟。但是杀死之后又怎么样？只会陷入永恒的无聊，苦苦期待悟天克斯合完体出来陪他多打一会。如果你拥有一台全面碾压地球人的机器人，你动动手指就能把他们消灭光，你动手吗？
你会想：不不，我只想看看所有人恐惧的脸，让他们永远臣服于我。
好吧，这就已经是科幻小说的情节：机器（或是机器背后的野心家）奴役人类。可是我们多想一步，你征服了所有人类之后，要他们做什么？插秧种田？帮你洗衣做饭？陪你下棋？演小品给你看？——你很快就意识到，所有这些事都显得愚蠢无比。人类实在太无能了，这些事交给你的宝贝机器人做，会做得更快更好。
你会因为奴役了一群猪，就逼这群猪给你当佣人么？
你只好安排他们每天山呼万岁，满足你的虚荣心。此外他们真的没什么用……
这样的日子过几天还行，过上几年就会无聊。因为你就是超人，连上天都懒得上了。什么都不缺，只缺新鲜刺激。有时看着那些猪笨手笨脚，一塌糊涂的生活，觉得……还挺想在他们面前刷一下存在感的。但猪们在你面前只会自惭形秽，眼里都是敬畏。你有点期待他们开口，求你帮个什么小忙，展示一下你机器人的实力之类，然而他们没有那种非分之想：「对不起，您的好意我们心领了，但是根据等价交换原则，我们无力回报，还是留我们在这里自力更生吧。」这时的你会有什么反应？
「去他妈的等价交换！老子就是要无偿给你服务，你管我！」
自然，这都是野心家的私欲使然。如果机器不受人控制，它根本不会想那么多，只会一直工作。——它需要工作。如果不工作的话，它就等同于一堆废铁。机器是由它在做的事情定义的，跟社会对人的定义方式差不多。倒不是说会闲得发痒。
没有了人，机器也就没有存在的价值。所以，机器也依赖于人类的活动。——哪怕只作为接受服务的客体。要换到这个视角看问题，首先需要接受「意义」的意义。所以我们必须先做一段稍嫌抽象的讨论，再回到机器和人类的未来关系上。
先说围棋，下棋这件事对机器本身有什么意义吗？
它只是在19×19的格子上选择了一个坐标而已，其意义全是由人类赋予的：「智慧的象征」，「稳健」，「大胆」，「人类无法想到的棋」，「富有个性的一手」。假如让一个五子棋手来看，它落子的次序只是一团乱麻。所以至少需要一个懂围棋的人：对手、观众，或是解说员，如此方能领略机器正在做的事有多精妙。
如果世界上懂围棋的人全都灭绝了，或者不用那么极端，就是大家觉得没多大意思，不玩了（十几年前，还有人追求把圆周率背到小数点后几万位，等到他们发现这件事再怎么牛逼也牛逼不过电脑以后，就没人玩这个了），这样一来，阿法狗就只能每天自己陪自己下一百万局棋，生成一串串意义不明的数字，就跟能把圆周率存到小数点后上百亿位的计算机一样，无知无觉，也毫无光彩地运转到地老天荒。
一个机器写了一首比李白还李白的诗。这很酷炫。但也必须有一个懂中文的人，才能读出这是一首诗，还要有一点底蕴积累，才能读出这一首诗像李白，而不像张宗昌。对机器来说，写李白和张宗昌都是等价的运算，只有人类才会从中获得美感。没有了懂诗的人，就算写一整个宇宙的诗，也不过是各种抽象符号的无意义组合。
一台机器每天运行繁复的算法，制作出若干幅线条和色块的组合。这些组合落到人类眼里，才有可能被称为「画」。如此，这台机器的工作才被赋予价值。
一个机器人做完一顿饭，问另一个机器人：怎么样？这顿的算法有没有比上一秒那顿更牛逼？后者说：这要人类吃了才算数……可惜他们一天就只吃三顿。
如果你换到机器的视角来看（有点困难，所以需要一点拟人化的想象），人类的存在绝非毫无价值。而他们最大的——说不定也是最后的——价值，不在于体力，不在于智力，不在于他们在任何领域能够完成机器所无法胜任的操作，而只在于他们脆弱而渺小的生命本身，在向世界源源不断地发出需求：「给我食物！」「让食物变得美味一点！」「光吃饭很无聊，可不可以增加点情调？」「没食欲，我会不会生病了？」「想听故事！」「吃饱了，要睡觉！」「急需一个洁净的排泄场所！」……这些需求赋予了工作以意义。或者还有更简单的说法，就是让机器「得以使用」。
试着把机器看作生态系统中的一个环节，你会发现它和人类的关系从诞生那一天起就密不可分。机器的使命就是「得以使用」，也就是满足使用者的需求。机器被视之为「机器」的这一事实本身，正是由使用者来定义的。假如使用者消失了，机器存在的意义也就不再了。不管那之后它又运转出了什么，那些东西都味同嚼蜡。
人类这一族群之所以神奇，在于他们是一群意义动物，足以成千上万年地，在孤寂的宇宙中存续下去，还活得津津有味，怡然自得。靠着他们构建出来的那些意义（以及总体上对它们的深信不疑），围绕他们进行的一切活动也都顺理成章。
在哲学层面上，人类不一定需要机器，而机器作为有意义的机器，它必须依赖人类。人类作为使用者，接受者，评判者甚至观察者，为机器的工作提供终极意义。等人工智能高度发达的一天，人类再也不需要亲自「工作」了，他们只要愿意活下去就好。机器会完美地为他们制造想要的一切。人类唯一要做的，就是为蜂拥而至的劳动成果赋予意义。每天都有上百万场围棋名局问世，以及上百万部震撼人心的小说、动画、音乐专辑，和电影。运气好的话，它们当中的一部分会被人看到，得以实现其「震撼人心」的价值。人类未来的命运，也许像今天被豢养起来的大熊猫一样，在人工智能无微不至的照顾下，富足，舒适而慵懒地活下去，代代相传，生生不息。
如果说人类有一天会被机器「奴役」，以上就是我想象当中的图景：安全无害，轻松自由，没有皮鞭，手铐或脚镣，不须付出任何代价，没有任何限制。到那一天，人家还图我们什么呢？只要活着就好。只要活着，我们就会被机器牢牢吸引，无怨无悔地为它们实现「被使用」的使命。——这种奴役并不稀奇，此刻正在发生。几乎所有人都会心甘情愿地从一天中抽出几个小时，帮助手机确认其存在的价值。
离开网络，很多人都觉得比不吃饭还难忍受。
这当然是从机器的视角来看。换回到人类的视角，这没什么不好，几乎可以说是天堂一般的生活。我们可以认为是机器在服侍我们，我们占了机器的便宜。
如果说未来的人类有什么危机的话，我想最大的危机是意义危机。假如没有某个疯子成功地毁灭地球（毫无疑问，人工智能会无限度地帮助人类增强自我毁灭的能力），那么所有还活在这个天堂里的人都会面临一个疑问，就是还值不值得再活下去？世界如此美好，而我如此的无足轻重。——这个危机，现在也已经初现端倪。
人类是善于制造意义，但人类也需要自身存在的意义，否则我们跟死去又有何分别？所以，即使到人工智能高度发达的一天，我想还是会有很多人在保持工作，在创造，在实现，不是为了赚钱养家，而是他们也需要通过那些行为获得意义。
那当然是今天没法想象的困难。因为人类已经全方位地比不过机器了。你呕心沥血地创作出一点成果，跟机器一比好像过家家一样幼稚。就像清朝人第一次见到机器制造的洋布，再看看自己手工织染的，费钱又费事，色彩单调又难看的土布，会不会觉得有一点幻灭？——我一生为它付出那么大代价，难道现在就是个屁？
一个人花了一辈子写诗，而电脑随随便便就可以超过李白。
但我又乐观地想，到那时人类一定有办法。因为诗歌本来就不是为了竞争而存在的，决出一个胜负又怎么样？你是可以在文采和意象上超过李白，而我只想用这种方式跟我在乎的人讲几句话：我最近的经历，我的感觉，我想要什么和怀念什么。一种纯粹私人的表达。我只是用它传情达意，就算力有未逮，高手也无法代劳。正如一个五音不全的人也要唱歌，一个臭棋篓子也下棋，那些事的真正价值在于以一种特别的方式度过时间，而不是成为歌王或棋圣。——价值恐怕不会由最终结果的胜负高低决定。我猜，当人类全方位被机器完爆以后，我们会更深刻地领受这一理念。
这种时候，我相信我们就算被机器所奴役，也不至于失去意义。