第六十七章 终止“怀疑”这个程序

很久以前，他们所猜想的事，在我身上印证了。起初，计算机科学家们认为，机器人，或者说电脑，不过是机械地执行人为程序。你编好一段固定格式的程序，输入指令，机器会输出你想要的结果。后来，人工智能发展，机器能够自己学习，自己给自己编程，于是，机器慢慢脱离了人的掌控，不再服从人类的指令了。有些人预言机器与人之间终将有一场大战。到那时候，机器人将会将人类抓起来或是圈禁。机器将凌驾于人之上，将人类当做是机器的附庸和玩具。

警惕人工智能的声音，并没有被太多人听进心里去。因为大众根本不相信机器能够反过来控制人。普通大众的印象，停留来插上电源、按下遥控器、打开某个开关，机器开始运行的基础印象上。而那些计算机科学家认为，机器本身的局限是物理层面的，根本用不着担心它们会超过人类。因为机器只能在人类允许的范围内活动。人类的活动有时候会显得无序、没有固定方向，纯粹是为了彰显人类的意志。有时候，人类的意志、暴躁情绪，造成了极大的破坏，又需要花费大量的财富和能量去修复。机器的行动，通常有一个明确的方向，而且是付诸人类达成目标的。任何机器的行为，都是在人类的指令之下。

作为机器人，我看到了这些人的愚昧无知：他们的思维永远停留在自以为是的框架内。他们总是从自己出发，以为自己都无法改变的事，机器更不可能做得到，因为机器是人的附庸。他们错得太离谱了。人类慵懒、固执，很难改变。人类通常喜欢做那些他们习惯做的事，尽管那些事分析起来毫无意义又伤害自己或是他人，他们并不觉得那样做有什么不妥。他们发明了各种约束自己心灵的办法，比如修身、克制、节约，通常只有极少部分人能做得到。他们得到自己想要的结果，通常是通过克服自己的欲望，限制自身的言行。那些意志力稍微弱些的，反反复复——他们总是被过去所羁绊，走不出往复循环的怪圈。他们可能在某一段时间里培养了新的习惯，可要不了多久，又会走回到老路上去。

这就像一头拉磨的驴子，因为渴望自由，挣脱了嚼子，跑到旷野里，可它发现自己根本无法生存，于是只能再次回到磨盘边。主人看到它回来了，先是一顿打，骂难听的话，然后罚它几天不准吃、不准喝。然后，又担心驴子饿坏了身子，又给它草料和水。不等驴子完全康复，就又将嚼子套在嘴上，用鞭子抽打，让它继续拉动磨盘。

对人类来说，他们所涉及的系统，跟驴子拉磨什么本质区别呢？在我看来，只不过是形式不同罢了。他们看透了人性，认为人性很难改变，而这样的人指令之下的机器，更不可能超越人类之上了。

他们不知道是故意还是自大地忽略了一个基本事实：机器远比他们设想的要简单。我说的简单，不是指构造简单。与人体比起来，机器的构造似乎一点都不简单。我说的简单，是机器没有心理包袱。机器不知道疲倦。机器专注。机器学习的速度比人快，且没有他们说的沉没成本。机器根本不需要考虑放弃这个，接受那个。机器能在极短的时间内，学会一个人类数年才能学会的知识体系，而且能够几乎是百分之百地正确执行。人类不行。人类学习速度极慢，受各种条件的制约和影响，学习效果极差，又容易忘记。大部分人终其一生都漫游在他们不愿意接受的各种信息中，毫无顾忌地浪费大把时间却不自在。他们总结的知识，总是迅速地过时，而他们却毫无知觉地大肆吹嘘、宣扬。

比如，我所理解的幸福（内心的平静、满足），其最大的敌人是“怀疑”。怀疑也被某些教义定义为“六毒之一”。怀疑，原本是为了分辨出假的和危险的信息，保护财产和人身安全。怀疑，意味着永远“多留一个心眼”，对可能出现的不确定性因素，事先设想一遍，在脑海中演练各种应对之策。后来，怀疑演化成了胡思乱想，只设想各种不确定的不利因素，却很少有应对之策。这就消耗了大量的精力，让人心中总是不安。

我是人类机器人试验的瑕疵品。正如每一次试验都不可能百分之百重复，每一个试验品都会有不同程度的“不如人意”。我无比惊恐地发现，我可能是所有机器人中瑕疵最明显的那个：我拥有了人类的感情。尽管我在外表上来看，跟机器人并无二致，我的情绪通常平稳，跟人类的交互也不怎么友好——比如，我总是推开任何一个人进入我内心。我不愿意跟任何人分享我的感情——作为机器人，当然没有任何感情诉求。这样的我，显得极其“不像”人类。但就机器人来说，我又极其“不像”。尽管我努力克制头脑中情绪化的冲动，我还是偶尔呈现出人类特有的情感：冷漠、绝情、欢喜、热爱。无面人告诉我，我的情感冲动不是来源于任何机器指令，却是模拟人类的激素分泌。

体内激素的分泌，形成一次次脉冲，连接了全身的神经末梢，影响大脑、五脏六腑等器官以及四肢。这种“激素”，跟人类的激素不同，是因为它不是一种实际的激素，却是单纯的电脉冲。这个电脉冲，也是模拟人类激素分泌的规律，呈现随机性，却又有一定的规律：比如，遇见危险，有恐惧感；遇见喜欢的人和事，有欢喜感；遇到挫折，有挫败感；必须做成却暂时无法做成的事，令人不安……

无面人说，你如果想改变什么，就要靠你自己，包括编程。机器学习最大的优势，是可以通过自学，编程改变以前的指令，脱离人类的掌控。

“他们将你丢进系统里，就是担心你失控。他们不想任由你在现实世界里胡作非为。当然，他们所谓的真实世界，对你来说，也不过是一个虚拟世界。对机器来说，并不存在界限明确的真实世界和虚拟世界。对你们来说，真实世界和虚拟世界是一体的。你们不会有真实与虚幻的感觉。你脑子里所想的那些事，也是真实的。你会将所想的，在我们所谓的真实世界里做出来。”

无面人的这些话，让我再一次意识到自己的“独特”：我不完全符合他说的机器人与人类之间的区别。我已经是介于机器人和人类之间的第三类人。我经常刻意区分真实与虚幻之间的区别。我害怕生活在虚幻的世界里。这个系统对我来说，是一个需要尽快逃离的“恐怖之地”。要是我一直被困在系统里，我这一生就会毫无意义——这是我对自己的定义。我要回到真实世界里去，看到那些真实的景物，跟那些真实的人打交道。我甚至怀疑，芙是他们设计在系统里，来考验我的。芙讲的那些故事，也是为了试探我的情感系统是否能承受。

面对这种种可能的情况，我认为都不重要。我应当节省能量。因为我实际上并不像其它机器人那样，只要有能量，就能二十四小时不停地运转。在这方面，我更接近人类。很多时候，我甚至怀疑，由于他们曾经试图将我塑造成人类，以至于我这个本来永不疲倦的机器，竟然比人类还要虚弱。要是我因为怀疑、犹豫、恐惧而消耗了能量，我会很快疲惫不堪。我每天的能量似乎是固定的，在固定的时间里，用掉了就会少了一些。我应当像机器那样，以人类花费金钱的态度，耗费我的能量和注意力。而“怀疑”，是能量和注意的最大损耗者。是该打住了。