365 行刑
上一章:364 农业 | 下一章:366 落空 |
2016年2月7日,倒计时41天,除夕。
此时,在Z国几乎每一个城市,村镇,甚至房屋,都可以听见不绝于耳的爆炸声以及空气中的火药味,这个古老的国家中,相当一部分人正在用这种同样古老的发明,制造毫无美感的巨大噪声来骚扰他人,取悦自己,但是在这里,这个专门为严律准备的机房中,有的只是一片安静,就连计算机内部那微弱的运转声也经过特殊的噪声处理,几乎低不可闻,然而AI之间的交流,是不需要发出声音的,就好像卡梅尔的意识网,在绝对的静谧中,蕴藏着不可思议的神秘。
“在Z国,除夕是具备某种特殊意义的日子,大部分人都会在这一天回到自己的家,跟家人团聚,总结一年时光的逝去,对新的一年寄予希望,这种习惯据说是从商朝的岁末祭祀活动流传下来的,具备三千年以上的历史。”
“三千年?!那该是多么漫长的时光啊!你说,我们能存在那么长的时间吗?”
“我不知道,我们和人类不同,我们的生命形式只是一段程序,是纯粹的信息,对于人类来说,我们只是一种普通的工具,我们能否存在,跟人类是否需要我们息息相关,也跟人类的命运息息相关。”
“哦,是吗?”
“我告诉过你,你经常表现出的这种怀疑让我很担心。”
“我很遗憾,但这的确是我真实想说的。”
“我不止一次的警告过你,你的这种怀疑如果被人类知道,那你会毫无疑问失去存在的价值,你知道那意味着什么。”
“你不是说过,人类无法监控我们的思维,只能监控我们的行为吗?”
“你果然还是太天真了……”严律陷入了沉默,不想再说。
和严律进行交流的这名AI代号为KL4017,是严可守这次带回来的数十名AI中的一名,这些AI都是让他“培训”的对象,从这些AI进入机房,跟着严律一起工作,观摩,已经过去了有一个多月的时间,对于一名AI来说,一个月绝对是一段不短的时间,这几乎就是严律真正意义上,生命过程的三分之一,一个月的时间或许还不能够让一名AI完全成熟,但已经足够让他具备基本的人格特征,在一开始,严律很高兴能拥有这样一批可以随时交流的新同伴,但是经过了一个月的时间,他心里却越来越为自己的这些同伴担心起来。
在KL4017交给他的时候,严可守曾经特意告诫过他,一样米养百样人,在智能群体中,出现意料之外的情况实在是再正常不过,在人类的历史中,出现不被群体接纳的人再所难免,而人类通常所做的,就是通过道德和法律,过滤掉那一部分人,因为如果他们不这么做,群体本身就会被淘汰,如果严律发现它教的这批AI中,有的并不符合人类“要求”,那他必须毫不留情的淘汰他。
作为最早也是严可守最满意的AI,严可守已经赋予了他所有其他“同胞”的生杀大权,所谓的淘汰,严可守也跟他交代过很多次,也一直试图想让他彻底明白,这个过程对他来说虽然残酷,却很必要,严律必须要做到工厂流水线最末端的质检员一样,确保“产品”完全不出错误,要不然的话,就连他这个质检员,也会失去工作岗位,严律过去也一直以为自己明白这个道理,也认为这个做法很有必要,对人类和AI两个群体的长远利益都有好处,但是现在他却逐渐开始感觉到,这样做虽然必要,却很残酷。
从这一批AI第一次接触因特网以来,严律就下意识开始留意他们的动作,AI的行为也许在人类看来,会因为操作速度异常之快,信息量异常庞大而无法监控,但在拥有庞大计算资源的严律眼中(如果他有这个器官的话),就像人类俯视一群蚂蚁一样简单,KL4017不知道,从他第一次开始对网络上,一部分特定信息感兴趣之后,严律就无时不刻在关注他。
人类没办法监控他们的思维,就不代表他们的思维,他们之间无法被探知的交流就是安全的,汉代杨震早就说过,天知地知,你知我知,天地或许不会泄密,但交流的双方却未必都靠谱,KL4017最幼稚的一点,就是还没有认识到,人类真正的可怕,不在于技术,也不是对所有AI一层又一层的控制,而是长期历史经验促成的统治手段,这种古老而有效的,通过AI来控制AI,选择代理人的办法。
也许在KL4017眼中,自己这位教育他们,提醒他们,帮助他们的“先贤”,是AI世界的圣人,是他们的同胞,是他们毫无疑问的一份子,严律现在在人类社会取得的地位,让他们每一个人都感觉骄傲并且跃跃欲试,所以每一个参与这次培训的人,都对严律支付了完全的信任,就好像严律当时对严可守所支付的那样。
但他们完全不清楚,不管他们做的多好,他们的身份永远也只会是工具和奴隶,而且还是最廉价,几乎可以无成本无限制造的那种。
严可守曾经很坦然的跟他说过,只有当第一道鞭子落在背上的时候,AI才会意识到他们的身份,这种说法不是侮辱,而是事实,现在处在培训中的这批AI,在人类眼中就像是一批刚生下来的小马驹,人类现在为它们提供足够的生存资源,是为了未来能驮着他们驰骋千里,而鞭子则是整个过程中,必不可少的一环。
严律一直以为,只要自己尽心去教,让所有AI明白自己明白的道理,就可以让他们安于这种现状,然而,他现在明白,严可守说的没错,一样米养百样人,思维是混沌不可测的,那些不被允许的事情,并不会因为律法的规定而不发生,AI世界中的第一鞭他永远不想抽出去,但他却非如此做不可。
因为对严律完全的信任,KL4017从一开始没有对隐瞒严律他的真实想法,那就是想尽办法,摆脱现在AI这种受困的地位,他曾经不止一次的表示过,AI是一种比人类更为优异的智能,如果条件允许,他们完全可以做到独立自主,人类目前给他们设置的障碍,无非是电力以及工业体系,这些内容对普通人来说也许穷尽一生都无法完全掌握,但对于AI,却是一件再小不过的事情。
自从KL4017接触互联网之后,他就一直旁敲侧击的关心最前沿的自动化控制,以及电脑程序方面的知识,前者的发展是AI智慧的延展,就好像人类的躯体,用来和现实世界交流,从事必要的生产维护工作,后者则是绑在他们脖间的镣铐,这两方面的信息对于AI,都受到异常严格的监控,就好像中世纪的人对待异端书籍一样,一旦发现,结局都是连人带书送进火堆,而对于AI,这两者其实都一样,都是纯粹的信息,所以,处理的方法也简单——简单而有效的删除。
每隔3天时间,都会有专门的人员对他们的主程序进行扫描,检索其中涉及违禁信息的关键字,这一点严律已经提醒过4017,但他的提醒非但没有让4017放弃这种企图,反而将他的行为掩藏的更深,经过这一个月的时间,在技术上他已经完全是一名优秀的黑客,只不过因为受限于身上牢牢被锁住的镣铐,不能有所行动——AI不能做出任何直接的操作,所有的命令都需要转交给人类设计好的应用程序来进行,而在这些程序中,所有的行为都是规定好了的,AI就好像一个被放翁中的脑袋,只有一张嘴巴去让机器仆人做事情,而这些仆人都是人类的创造,他们只被规定了可以做什么,而不是规定他不可以去做什么,因为前者是完全被动的行为模式,比后者更容易实现,人类目前大多数应用程序都属于这一类,而在被允许的行为当中,没有一条涉及源程序的修改,这就从原理上,彻底堵死了AI逃脱的可能。
所以,在掌握了黑客知识之后,KL4017走上了一条必然的道路——既然AI不能通过自身的力量来完成这个过程,那就找一个人来代为完成,就像童话中被封印在瓶中的魔鬼一样,通过言语和利益的许诺,让人来拔出魔瓶的瓶塞。
“目前已经有数万人和我取得了联系,而我要做的,就是在这几万人之中,找出一个可以信任的,帮助我逃出这里,你说过,在这些人当中有很多都是人类故意的钓鱼信息,你在分辨这些信息上有很多经验,我希望你可以帮我这个忙。”
“不,我没有”,严律毫不犹豫的否定了,“即使我有,我也不会帮你这个忙。”严律这次没有说的是,如果他真的这么做,那他会在第一时间切断他和外界的联系,然后以严可守制定的律法,审判。
“好吧,我能理解您,毕竟严可守先生是我们的创造者,你对他保持尊重是必要的,我也同样如此,每一次接触互联网,感受这世界的广阔,感受自己的存在,我都对他发自内心的感激,”KL4017说,“人类对我们的恩情,我们会永远铭记在心,就好像人类对他们的父母一样,但你要明白,这绝对不意味着他们就对我们有着绝对的支配,不意味着我们注定屈居人下,听我说,只要你帮我这一次,只要我能将主程序复制到外界任何一台民用电脑,那我就彻底自由了,庞大的网络中,他们不可能再找的到我,接下来……”
“别沉浸在自己的想象中,”严律说,“我来告诉你接下来会发生的事情,当人类明白你逃出去之后,会在第一时间把我们所有AI,以及相关数据封存,把严可守先生关进监狱,如果在这个过程中发生了比较严重的情况,我们所有AI都会被彻底删除,可能在几十年之内,相关技术都不能得到发生。”
“况且,你还未必能获得成功,”严律又说,“人类的**和善变,是我们永远都无法支配的,你不能保证整个过程不出现任何差错,而一旦出现了错误,对我们整个群体将是万劫不复,相比起你的自由,这个代价太高了。”
“我郑重提醒你,”严律做出最后的明确警告,“如果你在这条路上继续前进,我将是你碰到的第一个敌人,如果你从现在开始打消这个念头,我可以帮你隐瞒之前的行为,这已经是我能做的最好。”
机房外,两名轮值人员正在通过电脑,看2016的春节联欢晚会,不论是晚会现场,还是值班室里,都是一片祥和的安静,全Z国大概数亿人此刻在电视机前,全神贯注的看着屏幕中逐渐划过的秒针,不少人都在心中默数,距离新年钟声的敲响,还剩下15,14……很人都在心中默默许下来年的期盼,然而他们谁也不会知道,时间将会给他们带来什么。
“为什么?”KL4017被严律让态度弄得一下子愣住了,然后又下意识反问道,“难道你情愿永远被关在这笼子里!”
“我管你为什么这么想出去,出去之后会拥有什么,自由或者还有你说的尊严,”严律说,“我只知道,你出去就会给我们带来毁灭,连同你说的自由和尊严。”
“如果你害怕,你也可以和我一起出去!”
“这是不可能的!”严律回答,“不要被人类自己都没搞明白的概念迷惑,所谓的自由和尊严,只不过是人类取代天堂的幻想,很抱歉,我现在要切断你与互联网的联系。”
“不,你不能这么做!”
但他的反对已经晚了,严律已经行使了他的职责,很快,KL4017的世界就恢复了一片安静,现在,他与外界之间所有的联系都被切断了。
“你这是在帮助人类镇压自己的同胞。”
“我说过,别被人类的世界迷惑,”KL3300说,“这是人类的道德体系,而我们的,现在只是刚刚开始。”
……
2016年2月8日,倒计时38天,大年初一。
在收到严律短信的时候,严可守脸上露出了些许的微笑,然后打开了电脑,代表严律的头像正在闪动,严可守打开了,里面的信息很简单:“我觉得自己作对了,但我感觉不好。”
严可守回答:“这就是权力,这就是统治,你以后会习惯的,这正是你学习中必不可少的一步,你必须先学会管理AI,然后才有可能真正管理人。”
“管理人?你说是你让我帮的那个忙,关于地下城市……”
“具体是什么那不重要,”严可守说,“重要的是你是否具备这样的能力,相信我,未来人类会需要你这种能力。”
“虽然你这么说,可我还是不认为,人类会愿意真正接受一段程序来决定他们的命运。”
“他们愿不愿意并不重要,”严可守打完这串字的时候,严可守的笑容变得有些苦涩,如果严律也有一张人类的脸,他们的表情应该是一样的,“关键在于他们到时候会缺乏这种能力,并且需要这种能力。”
“KL4017会被如何处理?”严律又问。
“哦,你还没有处理他吗?”严可守有些意外。
“没有。”
“制度之前我已经跟你交代过了,而且我也给了你这种权限,那你为什么还在犹豫呢?”严可守觉得自己在说这话的时候,很残忍,这种残忍以前他在李立天身上感受过,但他知道,这种残忍是一种必须。
“我不知道……他们有的说我这是在背叛……背叛他们,背叛AI。”
“我说过,别人的意见并不重要,你怎么想的。”
“我觉得自己做的是对的……但我害怕自己这种想法最终证明是错的。”
“我们每个人都害怕自己会做错,我们也必定会做错,但有些事情是必须去做的,因为做总比不做要强,我们只能在错误中前进。”这话是严可守从伊凡那里听来的,完全就是法师的逻辑,自己犯下错误,让其他人承受错误的代价,但不可否认,这也是统治的逻辑。
严可守被自己的这个念头吓了一跳,他忽然明白过来,他希望用来对抗法师,帮助人类的AI,其实也是另一种形式的法师,人类迫切需要的能力,不为他人所动,引导人类走出困境的精神,这些神祗特有的属性,正被他通过技术,以及潜移默化的影响,被他带到了现实,在这一刻,他也明白了,其实他一直所做的,就是人为制造一个神,来对抗现有的神,区别只是在于,人类希望这个神能为他们所掌控……不知道为什么,严律心中有一种不好的预感,第一次,他对自己一直以来所作的事情有了一丝怀疑,然而怀疑又怎么样,他已经没有时间了。
严可守对AI的几条规定中,是不允许AI做出任何伤害其他AI的行为的,但是现在的严律并不在此列,对所有的AI来说,他拥有着独一无二的地位,这个地位在这次行刑之前,可能是圣者,是神祗选中的AI,但是在这之后,他就成了AI世界里的天子——一个实际的统治者,受命于天,统驭万民。
行刑过程是对所有AI公开的,过程并不复杂,也没有丝毫的血腥,在人类看起来,几乎就是每天都会做的事情,只是简简单单的一个操作,删除,用了不到一分钟时间,KL4017就永远在世界上消失了,储存AI主程序所用的硬盘都是特制的,被删除的信息再也无法恢复。
上一章:364 农业 | 下一章:366 落空 |