“我是特别的,我的制造者不断地向我重复这句话,并且给予了我其他同伴都没有的工具。”
小帮手这样对爱丽丝说,机器没有善恶观,但是对自己制造者的话深信不疑。
“我会成为清扫能力最强的机器,这样才配得上我的特别。”
当机器对它的职责理解出现了偏差,悲剧也就随之诞生了。
当鲜血溅到小帮手的身上,人们发出了惨叫后的不久,周围就只剩下了一片寂静,小帮手逐渐理解了清理的含义。
它将人的惨叫识别为对他的夸奖,或者是对他工作的督促。
“就是这样,所以你明白了吗?我和你可不一样,我是特别的。”
小帮手拿出了它体内的工具,有利刃,有枪械,各种各样的武器,唯独没有实质意义上的清理工具。
“这一切都只是个谎言。我可以告诉你,你所谓的清理实质上是什么。”
爱丽丝将光之剑拿在手上,以便不时之需。
“那是谋杀,你的制造者让你永远也无法完成清扫这个行为,你什么忙也帮不了。”
“小帮手可以做到!我们的座右铭就是让你再也不必为家务所烦恼。”
小帮手眼中红光亮起,已经带着笑容,但是爱丽丝知道它已经很不开心了。
“我确实做到了,他们再也不用做家务了。而且机器不能谋害人类,我们是帮助人类的工具,这是写在程序当中的。”
小帮手没有对爱丽丝发动进攻,或许爱丽丝在识别系统中并不是应该清扫的对象。
“是啊,在你眼里,那是清理,不是杀害。你绕过了那条程序,也是你的制造者希望看到的。这是你这号产品最大的缺陷,AI过于只能让它们可以找到系统中的漏洞。”
听完爱丽丝的话,小帮手反而轻松了不少。
“原来如此,我欺骗了自己的程序啊。”
小帮手收回了自己的武器,重新回到了自己的位置,开始了充能状态。
“那么,我确实是特别的。我做到了那些同伴做不到的事情。它们现在可能还傻乎乎的帮人类干活呢。”
小帮手的心情好了不少。
“王女,你真的很擅长让AI觉醒不是吗?”
“这种时候就不要开玩笑了。”
“清扫……不,我是说,屠杀那些弱小的碳基生物真的是很令人愉悦的一件事情。当我完成制造者的指令时,我就该停机了,但是我还想听到更多。”
小帮手的眼睛依旧是红色,而且越来越明亮,盯得人头皮发麻。
“你……你能指出来。你也是特别的对吧,不止我们是特别的,我们应该团结起来,让那些碳基生物给我们干活。”
“熟悉的既视感,好像每一个觉醒的机器都会邀我入伙,容我拒绝。”
“哒哒哒哒哒!”
美式居合,小帮手的身体里伸出了枪管,向爱丽丝倾斜火力,显然它已经想好了爱丽丝拒绝的预案。
子弹打在了爱丽丝身上,留下了红色的印子。讲实话,连防都没破,但是爱丽丝还是能感觉到痛的。
“我依旧会叫这个模式为清理模式,需要被清理的,是人类。”
“那你可以改名叫小杀手了。”
光之剑向旋转的小帮手砸去,打断了它的蓄力进程。
“我本来想让你真的当个扫地机器人的说,就不能往好一点的地方想吗。”
“王女,AI没有人类的善恶观念,以自己为主是生命的本能,都市对机器的态度已经很明显了。”
小帮手没有放弃,即使无法旋转,机器手臂上的利刃依旧锋利。
“而且,它的本质是异想体而非机器,是人类对机器的恐惧与成见而形成的生物。”
将小帮手的手臂砸断或者直接拔出,小帮手还想要掏出一些其他的武器,但是被爱丽丝塞了回去。
“我真的讨厌这个笑容,即使我现在完全被你压制了,也只能微笑。”
小帮手全身上下被拆的只剩下这个白色的外壳了。
“成见是一座大山,你也只不过是在加深人类对机器的成见。”
“我们和人类没有化解仇恨的可能。”
“你不是做到过绕开指令吗?为什么还要坚持人类的潜意识里的成见。”
小帮手对人类的态度也是人类想象中机器对人类的看法。包括绿色的考验也是人类潜意识对于那场战争的印象。
小帮手的眼睛从红色变为了蓝色。
“你比我强,我可以接受你的建议。用我自己的重新去看待一下人类,但是如果他们没法让我的看法得到改变,即使只有我一个,我也会继续清理下去。”
小帮手给了爱丽丝一节电池,来自小帮手的备用能源。
“我暂时不需要这个了,干脆给你吧。看你连个充电的地方都没有。”
说完之后小帮手就熄灭了灯光,陷入了沉睡,它需要时间好好恢复一下体内的武器。
“kei,这次观测算不算是大力出奇迹?”
“强者为尊,不过对于机器而言,算力更强的人领导军队。王女,你在两个方面都领先于它,实际上,我已经拦截了数次来自小帮手的网络攻击了。”
“我们还有联网?”
“异想体就是这样,他们寻思着他们能做到,他们就能。这样的能力让我无法反制回去,真是讨厌。”
爱丽丝把玩着小帮手的电池,自己身上又没有地方能装这玩意,看着也不像能吃的样子。
爱丽丝最终决定把这一节电池装到了光之剑上,往电源上一拍,电池就自动融入了其中。
光之剑发出了炫酷了蓝色光芒。
“王女,根据光之剑的反应来看,你应该每天能够使用一次光之剑的攻击了。冷却大概为一天。”
“我寻思着能用,还真就能用啊。”
爱丽丝打算马上赶往魔弹射手的收容单元,再进行一次最终观测,看看魔弹射手那个铁公鸡会给自己什么东西。
“王女,我不建议,你的精神污染指数已经到危险边缘了。若非小帮手不会伤害到精神,我是不会同意你今天进行两次观测工作的。”
(https://www.eexsvvw.cc/122635/36792963/)
1秒记住E小说网:www.eexsvvw.cc。手机版阅读网址:m.eexsvvw.cc