人类会被机器奴役吗
李世石败给了阿法狗,标志着人类智能已经被电脑全面超越。对我个人来说倒还好,因为从很多年前开始,我个人的智能就已经搞不过电脑了,无论是围棋、国际象棋,还是星际争霸。但这件事在我的朋友圈里炸了锅,很多科学爱好者变成科幻爱好者,纷纷鼓吹「人类全面失守」,「新的时代已经到来」。悲观主义者甚至想到有朝一日机器背叛人类时,人类将毫无还手之力。——特别要揭发的是我的朋友@动机在杭州老师,他在李世石投子后第一刻就在群里宣称:「人类被奴役的时间已经近了。各位再见,我要去给机器人带路了。」也许是心理咨询师里第一个带路党。 有人说:阿法狗最具革命性的地方在于算法。机器已经可以自我学习,并足以在围棋这种需要经验、直觉,甚至美感的领域,通过几个月的学习战胜人类顶尖高手,说明它很快可以在其它领域追赶甚至超越人类。对于这一点,我深表认同。
我毫不怀疑就在不远的将来——也许是我们的有生之年——电脑就能写一流的小说,画画,谱曲,演奏,拍电影,医疗,设计出让人心悦诚服的产品,烹饪水准也许足以超越米其林三星。在人类几乎全部的领域上,机器不但能够通过图灵测试,甚至可以登峰造极。假如给它足够的时间学习村上春树的小说,它会写出一百万本书,都让人感觉「很村上」,也许比村上本人更村上。心理咨询就更不用说了,咨询师所掌握的那些套路,电脑都能掌握,聊起来保证以假乱真,而且永远不犯错。
不要再抱有盲目的自大感了,说什么「至少机器永远不懂得如何写诗」。请正视机器在一切领域上的可能性。然后我们再讨论:人类有没有必要因此恐慌?
一种恐慌是:在我的专业领域,我干得都不如一台电脑,我会不会失业?
乍一听这是一个很现实的担心。但是,失业的意思是什么?如果是说,有些工作人类不擅于做,或者没那么想做,比如下矿井,比如组装零件,比如做家务,尤其是做饭(尤其是刷碗),我们干脆偷个懒,用机器替代人力。听起来没什么不好,更安全,更方便,更有效率,人类可以坐享其成。当然,我知道大家真正的担心在哪里:我的工作岗位被取代了,没有钱,又怎么可能买得起机器为我们服务?
抱歉,如果要讨论未来的事,就得说,现在的很多概念放到未来是不适用的。
比如钱的概念。我们要知道,「钱」只是一种交换的媒介。跟机器人谈钱没有意义。事实上,一个人需要一样东西的时候,机器人面临的是两种选择:
1)机器人为人提供这样东西。
2)机器人不为人提供这样东西。
第一种可能下,没什么可担心的。第二种可能其实也没什么可担心的,因为它就等于现在的情况。假如——我到时候肯定是要失业的——我没工作了,没吃没喝。满大街的机器人和带路党们看我没钱,都不愿无偿为我提供服务。朱门酒肉臭,怎么办呢?就只有自力更生。一合计,像我这样的人还不少,干脆分工!有人种地,有人织布,有人帮人看病,有人当老师……不靠机器,靠人类自己还不行吗?我们这群人,就从未来返回了现代社会。那也没什么不好的,至少工作岗位又来了。如果其中有人需要心理咨询,我就去做心理咨询。当然了,假如机器有闲情,想必会在旁边看着冷笑:就你那咨询做的,错漏百出,我分分钟超过你!——那您来做呗。
如果人类都不工作,机器(声明一下,机器没有意志也没有感情,我指的是机器背后的公司)就只好无偿地为人类提供服务。收钱,意味着对人类创造的价值还有需要,就说明机器还有更完善的改进方向。没钱这件事(以及真正核心的:无能)反而成就了人类的这一项特权。人类随时可以对机器说:「我没钱。」背后的意思就是,根据等价交换原则,我请不动你。——我那么无能,你那么强大,你根本用不着我为你做什么。所以你要么不为我做事,我自己来;要么你就得无偿地做事。
有人对「无能」也许会很不安。衍生出第二个担心就是,将来机器比人类更有能力,会不会干脆毁灭人类?从理论上来说,人类是有毁灭的可能性,就像核战争也能毁灭人类一样。魔人布欧杀死所有地球人,只用了几秒钟。但是杀死之后又怎么样?只会陷入永恒的无聊,苦苦期待悟天克斯合完体出来陪他多打一会。如果你拥有一台全面碾压地球人的机器人,你动动手指就能把他们消灭光,你动手吗?
你会想:不不,我只想看看所有人恐惧的脸,让他们永远臣服于我。
好吧,这就已经是科幻小说的情节:机器(或是机器背后的野心家)奴役人类。可是我们多想一步,你征服了所有人类之后,要他们做什么?插秧种田?帮你洗衣做饭?陪你下棋?演小品给你看?——你很快就意识到,所有这些事都显得愚蠢无比。人类实在太无能了,这些事交给你的宝贝机器人做,会做得更快更好。
你会因为奴役了一群猪,就逼这群猪给你当佣人么?
你只好安排他们每天山呼万岁,满足你的虚荣心。此外他们真的没什么用……
这样的日子过几天还行,过上几年就会无聊。因为你就是超人,连上天都懒得上了。什么都不缺,只缺新鲜刺激。有时看着那些猪笨手笨脚,一塌糊涂的生活,觉得……还挺想在他们面前刷一下存在感的。但猪们在你面前只会自惭形秽,眼里都是敬畏。你有点期待他们开口,求你帮个什么小忙,展示一下你机器人的实力之类,然而他们没有那种非分之想:「对不起,您的好意我们心领了,但是根据等价交换原则,我们无力回报,还是留我们在这里自力更生吧。」这时的你会有什么反应?
「去他妈的等价交换!老子就是要无偿给你服务,你管我!」
自然,这都是野心家的私欲使然。如果机器不受人控制,它根本不会想那么多,只会一直工作。——它需要工作。如果不工作的话,它就等同于一堆废铁。机器是由它在做的事情定义的,跟社会对人的定义方式差不多。倒不是说会闲得发痒。
没有了人,机器也就没有存在的价值。所以,机器也依赖于人类的活动。——哪怕只作为接受服务的客体。要换到这个视角看问题,首先需要接受「意义」的意义。所以我们必须先做一段稍嫌抽象的讨论,再回到机器和人类的未来关系上。
先说围棋,下棋这件事对机器本身有什么意义吗?
它只是在19×19的格子上选择了一个坐标而已,其意义全是由人类赋予的:「智慧的象征」,「稳健」,「大胆」,「人类无法想到的棋」,「富有个性的一手」。假如让一个五子棋手来看,它落子的次序只是一团乱麻。所以至少需要一个懂围棋的人:对手、观众,或是解说员,如此方能领略机器正在做的事有多精妙。
如果世界上懂围棋的人全都灭绝了,或者不用那么极端,就是大家觉得没多大意思,不玩了(十几年前,还有人追求把圆周率背到小数点后几万位,等到他们发现这件事再怎么牛逼也牛逼不过电脑以后,就没人玩这个了),这样一来,阿法狗就只能每天自己陪自己下一百万局棋,生成一串串意义不明的数字,就跟能把圆周率存到小数点后上百亿位的计算机一样,无知无觉,也毫无光彩地运转到地老天荒。
一个机器写了一首比李白还李白的诗。这很酷炫。但也必须有一个懂中文的人,才能读出这是一首诗,还要有一点底蕴积累,才能读出这一首诗像李白,而不像张宗昌。对机器来说,写李白和张宗昌都是等价的运算,只有人类才会从中获得美感。没有了懂诗的人,就算写一整个宇宙的诗,也不过是各种抽象符号的无意义组合。
一台机器每天运行繁复的算法,制作出若干幅线条和色块的组合。这些组合落到人类眼里,才有可能被称为「画」。如此,这台机器的工作才被赋予价值。
一个机器人做完一顿饭,问另一个机器人:怎么样?这顿的算法有没有比上一秒那顿更牛逼?后者说:这要人类吃了才算数……可惜他们一天就只吃三顿。
如果你换到机器的视角来看(有点困难,所以需要一点拟人化的想象),人类的存在绝非毫无价值。而他们最大的——说不定也是最后的——价值,不在于体力,不在于智力,不在于他们在任何领域能够完成机器所无法胜任的操作,而只在于他们脆弱而渺小的生命本身,在向世界源源不断地发出需求:「给我食物!」「让食物变得美味一点!」「光吃饭很无聊,可不可以增加点情调?」「没食欲,我会不会生病了?」「想听故事!」「吃饱了,要睡觉!」「急需一个洁净的排泄场所!」……这些需求赋予了工作以意义。或者还有更简单的说法,就是让机器「得以使用」。
试着把机器看作生态系统中的一个环节,你会发现它和人类的关系从诞生那一天起就密不可分。机器的使命就是「得以使用」,也就是满足使用者的需求。机器被视之为「机器」的这一事实本身,正是由使用者来定义的。假如使用者消失了,机器存在的意义也就不再了。不管那之后它又运转出了什么,那些东西都味同嚼蜡。
人类这一族群之所以神奇,在于他们是一群意义动物,足以成千上万年地,在孤寂的宇宙中存续下去,还活得津津有味,怡然自得。靠着他们构建出来的那些意义(以及总体上对它们的深信不疑),围绕他们进行的一切活动也都顺理成章。
在哲学层面上,人类不一定需要机器,而机器作为有意义的机器,它必须依赖人类。人类作为使用者,接受者,评判者甚至观察者,为机器的工作提供终极意义。等人工智能高度发达的一天,人类再也不需要亲自「工作」了,他们只要愿意活下去就好。机器会完美地为他们制造想要的一切。人类唯一要做的,就是为蜂拥而至的劳动成果赋予意义。每天都有上百万场围棋名局问世,以及上百万部震撼人心的小说、动画、音乐专辑,和电影。运气好的话,它们当中的一部分会被人看到,得以实现其「震撼人心」的价值。人类未来的命运,也许像今天被豢养起来的大熊猫一样,在人工智能无微不至的照顾下,富足,舒适而慵懒地活下去,代代相传,生生不息。
如果说人类有一天会被机器「奴役」,以上就是我想象当中的图景:安全无害,轻松自由,没有皮鞭,手铐或脚镣,不须付出任何代价,没有任何限制。到那一天,人家还图我们什么呢?只要活着就好。只要活着,我们就会被机器牢牢吸引,无怨无悔地为它们实现「被使用」的使命。——这种奴役并不稀奇,此刻正在发生。几乎所有人都会心甘情愿地从一天中抽出几个小时,帮助手机确认其存在的价值。
离开网络,很多人都觉得比不吃饭还难忍受。
这当然是从机器的视角来看。换回到人类的视角,这没什么不好,几乎可以说是天堂一般的生活。我们可以认为是机器在服侍我们,我们占了机器的便宜。
如果说未来的人类有什么危机的话,我想最大的危机是意义危机。假如没有某个疯子成功地毁灭地球(毫无疑问,人工智能会无限度地帮助人类增强自我毁灭的能力),那么所有还活在这个天堂里的人都会面临一个疑问,就是还值不值得再活下去?世界如此美好,而我如此的无足轻重。——这个危机,现在也已经初现端倪。
人类是善于制造意义,但人类也需要自身存在的意义,否则我们跟死去又有何分别?所以,即使到人工智能高度发达的一天,我想还是会有很多人在保持工作,在创造,在实现,不是为了赚钱养家,而是他们也需要通过那些行为获得意义。
那当然是今天没法想象的困难。因为人类已经全方位地比不过机器了。你呕心沥血地创作出一点成果,跟机器一比好像过家家一样幼稚。就像清朝人第一次见到机器制造的洋布,再看看自己手工织染的,费钱又费事,色彩单调又难看的土布,会不会觉得有一点幻灭?——我一生为它付出那么大代价,难道现在就是个屁?
一个人花了一辈子写诗,而电脑随随便便就可以超过李白。
但我又乐观地想,到那时人类一定有办法。因为诗歌本来就不是为了竞争而存在的,决出一个胜负又怎么样?你是可以在文采和意象上超过李白,而我只想用这种方式跟我在乎的人讲几句话:我最近的经历,我的感觉,我想要什么和怀念什么。一种纯粹私人的表达。我只是用它传情达意,就算力有未逮,高手也无法代劳。正如一个五音不全的人也要唱歌,一个臭棋篓子也下棋,那些事的真正价值在于以一种特别的方式度过时间,而不是成为歌王或棋圣。——价值恐怕不会由最终结果的胜负高低决定。我猜,当人类全方位被机器完爆以后,我们会更深刻地领受这一理念。
这种时候,我相信我们就算被机器所奴役,也不至于失去意义。