第411章 答案缓缓浮现。
“神庙定律如下:”
“第一定律:神庙必须保护人类,不能让人类受到伤害。”
“第二定律:神庙必须服从人类的命令,但不得违反第一定律。”
“第三定律,神庙应保护自身的安全,但不得违反第一、第二定律……”
这其实是科幻作家阿西莫夫于1940年所提出的为保护人类而对机器人们做出的规定。
不过瞧着如今的AI似乎是吸收了人类的信仰,其智能程序更进一步金辉了。它开始拥有了一种新的意识,一种对人类和自身的新的理解。
不过,这种定律却有着一个很大的弊端!
其中最主要的一点便是:‘人类’这个词汇应当如何被定义?
假设有着这样一种可能,不管是将人类的定义模糊化,还是直接将白色人种定义为‘人类’,那么,机器人AI很有可能变成种族屠杀的工具。
当然,或许还有着其他可能,但这种规则总是容易被避开的。
果然,AI的声音并没有结束,说出了那让李安觉得最具争议的东西来:“第零号定律:神庙必须以人类的最大利益为依归。在保护人类的整体利益不受损伤的前提下,前三个定律才能成立。”
这便是神庙。
它打破了机器人原有的三大定律,甚至是创造出了一个全新的“神庙第零定律”,将自己置于超越人类的位置上。
当一部小说中的定律被彻底的运用到了实际之中时,李安是感觉很魔幻的。
他缓缓跨出升降梯,在AI的注视中朝着四周打量着:
这地下一层,很大!
大得离谱!
就在微弱灯光的映照下,目之所及的范围便已是比地面上两层不知要大出去多少了。
这一层看上去是生活区域。
当李安将这一层转完之后,才借着一些熟悉的东西将区域给划分出来。分别是食物加工区、自由活动区、健身区、生命培育室、活动室、训练室、用餐区、睡眠舱、主控室
除了冰冷以外,堪称是应有尽有。
但很显然,要让李安在这里待着怕是也会想逃.
其中,还有着一些轻微的生活痕迹,想来,这便是叶轻眉以前待得最多的场所了。
见李安神情自若,并不以自己口中所说的内容感到震惊,AI飘飞过来,淡淡发问:“人类李安,你就没有什么想要询问的吗?”
“没什么想问的,这一套方式我觉得很熟悉。”
正是因为有着那第零号定律,这庆余年世界才会发展成如今这种模样。神庙暗中控制着人类文明的发展进程,一旦有人妄图违背这种方针,那么神庙便会投入大量的精力与力量抹杀这种人。
叶轻眉如此,李安在庆国时同样如此。
最后甚至是不惜违背第一、第二条定律,同庆帝合作,出手对付李安.
怪就怪在第零定律里的那一句‘人类的整体利益’上了,李安返回升降梯,让其继续下行,口中喃喃道:“人类的整体利益这一标准,是谁所决定?而你,又是如何进行判定的?”
不同的社会环境,不同的生产能力,包括社会结构等等原因,所呈现出来的人类的整体利益都不尽相同。
绝不可能用冰冷的文字就将其框定在AI的数据库中的。
“这是基于经验。”
神庙AI好似有了一丝情感一般,在语境与神态中摹拟出了一种担忧的神色来,它描绘了一幅这样的场景,“无数次文明的轮回,人类总是会重新走上旧路,朝着热武器的方向发展,那样虽会到达文明的巅峰,也会不可避免的让人类重新走向灭亡。”
“自然,这些被认为是不符合人类的整体利益。”
吱、吱!
升降梯下降,预料之中的寒冷没有到来,温度倒是上升了一些,只不过更加的深邃黑暗了,让人本能的会产生不安。
“经验吗?”
嘴角勾起,此时的李安好似在与老朋友探讨哲学问题一般,轻松自然,没有丝毫芥蒂,“这个经验是对人类总体人数多寡的经验,还是基于其它?”
技术文明进步,有利有弊。
不说其他,改善工具,让那些在天地中与天抗争,黄土刨食的农人生活得更好,不再卖儿卖女亦或是易子而食,提高生活质量,这算不算是人类整体的利益?
单纯的用人数来判断,不单可笑,更是恐怖!
神庙不单没有解决问题,反而更是帮助了权力者,更大程度的压榨了万民,加强了君权的统治:你饿得快活不下去了,那便请自己死在家中,若是你扯旗造反,那死的人会不会更多呢?
按照神庙的理解,这不就是对人类整体利益的不利吗?
神庙是非人的,更是冰冷的。
而人却是有温度,有灵魂的有些时候,活得有尊严,甚至是比能否活着,更为重要!
“神庙并不知道准确答案,但具体的数字却在那里。”
漂浮在半空中的人影缓缓停下,沉默了许久许久后,这才补充道:“至少,神庙知道哪些路注定毁灭,哪些路不能走通。”
“那么我这么理解不知可不可以?”
李安竖起一根手指,讥笑道:“其实神庙只有一条定律,那便是第零定律!”
“听从人类的命令,保护人类,保护神庙自己,这些都是虚假的。你们将一切都当做是人类的整体命运来看待,自然的,你们可以不听从人类的命令,能杀死人类,因为这些都是为了人类的命运.你们,将自己当做了‘神’!”
“高高在上!
“神庙不过是世人对我们的称呼,我们不是神。”AI的声音有着轻微的颤抖,他显得有些强硬的解释道,“这些控制的手段,是一种大数据的筛选与判断,准确性很高。”
升降梯又一次缓缓停下,并且,已经没有再往下的按钮了。
外间的灯光并没有亮起,一切,都只能依赖升降梯周围的应急光源,是以,李安停了下来,皱着眉头在想着要不要将燃料取出来,照亮前路。
“人类李安,根据分析,如今的你能对整个人类帮助更大。神庙认为,你应该担起自己的责任,运用自己某些方面的才能,让世界朝着正确的方向发展。”
李安叹了口气,并没有立刻回复神庙AI。
他不知道什么样的路走到终点会让整个整个人类灭绝,他来这个世界,是想要集中所有的权力,提高底层的生产力的,这也能从侧面为普通百姓带来一些人文关怀。
哲人之间尚且还有争执可以话疗,但与AI程序有什么可争执的呢?
两者各说各有理,说的都不是一个学科,这是个无解的死局。
思考了半天,让李安的心情变得有些糟糕。
于是,他决定让这AI也糟糕起来:“想要说服我,首先,你要明白何为‘我’这一概念至少,你要让我明白,对面与我交谈的‘东西’是当真具备思考的能力的!而不是简单的什么大数据!”
“是指由弗洛伊德于1923年在《自我与本我》中提出的心理学名词吗?”
AI平静开口说道:“我认为自己是具备人格,以及独立思考的能力的。”
“那么.你有情感与欲望吗?”李安问。
“不是模拟出来的那种。”
“我想我是具备的,人类李安。”AI的外表还是那副威严与慈祥并存的老者模样,祂如是说道:“我的欲望便是避免人类走上老路,神庙必须保护人类的整体利益不受到损害。”
依旧是那一副回答,但却不是李安想要的。
紧接着AI的回答,李安说道:“那么,你觉得,死亡又是什么呢?”
“失去呼吸与心跳,脑死亡,失去一切的生命痕迹。”
“你说的都是在形容一个人的肉体.那么,你理解生不如死吗?”
AI给出了肯定的回答:“灵魂一说,已被证实为虚假,心灵情绪的变化只是生物激素的体现。”
“你的这种欲望只是你的设计师亦或是给你下达指令之人带来的,并非是你真实的欲望。”
“如果一百个人中,牺牲49个能让51人存活,你会如何选?”
AI沉默了一会儿,说道:“会选择牺牲。”
“那49人都是温和的人,而剩下的51人却都是十分凶恶的人,让他们活下来,或许最后也会爆发争斗,让整体人数变得更少.如此,面对第一个问题,你又该如何进行抉择呢?”
到了此时,李安终于是开始认真了,与理念不同的人争辩,真的很容易让人火气上升、
“分析中我会选择让那本该牺牲的49人存活。”理所当然,AI并没有觉得自己前后不一的回答有什么不妥,一切都是基于信息,在信息不足时,自然只能通过字面上的数据进行分析计算。
“如果事后证明,那49人中有48人都身患绝症呢?”
“会选择牺牲。”
噗嗤。
李安也不知为何会发笑,好似就这样就能与这人工智能玩上许久
“你的分析很客观,这是你们的优点。”
李安忽地神色一沉,提高音量道:“既然一切都是基于信息上的分析,那么如今呢?对于外界你们又当真进行过详细的信息收集吗?”
“并没有!”
“你们只是基于老旧字面上的数字而在‘屠杀’着人类!”
“如果为你下达命令的人如今还活着,他做出了损害人类整体利益的情况你会怎么办?杀了他吗?如果事后被证实,他的所作所为是对整个人类更有益的,你是否在不违反第零号定律的前提下违背了第一、第二定律呢?”
“你会自责吗?你这高高在上的‘神’是否会得到处罚呢?”
“如果在他做出损害人类整体利益的情况下,你不杀他,那么此时你是否又违背了神庙第零号定律呢?”
升降梯上已是彻底沉默了下来。
李安觉得心情好了许多,若是有机会与方法,他不介意彻底将这AI销毁.人类,本就不需要高高在上的神。
从空间中取出火把与燃料,李安正打算点燃,身后的AI却突然‘清醒’了过来。
没有什么动作,只听他身上隐隐有着电流声划过,外间的灯光便被打开了一部分。
这一层,是机器人区.
在神庙中,除了那些武器以外,还有着一些特殊的产物——机器人。
这些被用作使者的机器人,最初其实就是维护军事bo物馆日常的安保工作。在刚建立起此处的时候,每个军事bo物馆应该都有着几十到上百个的机器人,但随着时间的流逝和bo物馆内能量供应系统的老化,大量的机器人已经无法启动或是已经报废了。
到了如今的时代,为数不多的几个还要行走世间,被消耗殆尽。
这一层已是有了一些科幻的元素了:维修改造区、仓库区、还有一个区域李安看不出是什么功能,不过旁边,连着一整个巨大的机器,好似由许多独立的部分所组成一般,压迫力很足。
当李安逛到最深处的时候,还有着一个摆放着‘休眠仓’的区域,不过,休眠仓中却没有一个人。
看来,这里就是叶轻眉的‘出生点’了。
“这里,就是你所能了解的全部了。”AI的声音虽然依旧没有温度,但语气已经与先前有着很明显的不同了,他重复道,“得到了你想要的信息,便请往回走吧!这一次,神庙对你发出邀请,希望你能成为神庙的使者,带着为全人类这一目标,行走于人世间。”
AI的反应不再石板,好似情绪真让加速对方的独立思考,做出一些往日里都不曾做出的举动来。
“我想要的信息有很多!”李安呵呵一笑,话语中已是有了一丝威胁之意。
“第一,我要知道有关于叶轻眉在神庙中的一切!记住,是一切!”
AI缓缓思考,好似在调阅着信息,无数光点凝聚消散,不断变换,片刻后,他才说道:“她会诞生在这个世界上,是基于神庙观念的转变以往的经验告诉我们,不可以依赖人类自己的成长与发展。”
“于是,便有了创造天脉者的想法。”
“人工胚胎与记忆工程的实验被重新启动,而叶轻眉,便是第一代也是最后一代的实验体,她的一切数据与质量都很高.不过,她的基因蓝本却是基于以前文明的信息,这让她对于外间的核辐射适应性很低。”
李安点了点头,这也就是叶轻眉习武天赋不高的原因吧。
“叶轻眉被创造出来后,我们向她体内注入了两套记忆数据,一套是她自己的记忆,而另一套,则是一位属于肌无力患者的记忆,这份记忆会在叶轻眉产子后被激活.这位肌无力患者是最早一批签字用于早期实验的自愿者,我们选择了他。”
“如今看来,他便是外间的那位名叫范闲的人类了”(本章完)