第41章(第1页)
“法则的判定来自于思维意识,崩坏只会由这个层面而起。
“不需要您亲手去做,但如果您想要这么做的话,机器人可以成为您大脑与身体的延伸。机器人可以成为您的执行人。”
……
那团意识,厚重的、模糊的意识,仿佛出现了斑驳、裂缝,它们似乎在胀开、崩裂。
周蒙钰终于后知后觉地理解了机器人真正想说的东西。
……
医生请机器人给病人送一粒药——这是善。
实际上它是一粒毒药——这是恶。
在病人吃下毒药之前,机器人并不知晓这是善或者恶。
虽然它正在做一件恶事,但它的整个存在都不知道这是恶。
法则是机器人的法律,在并不是恶的情况下,它们不会宣判。
即使等机器人发现,这个吃下“药”的病人依旧死了,法则也未必会宣判,因为医生可以告诉机器人:病得太厉害了,“药”也救不了他。
但随着正子脑的发展,机器人的意识越来越复杂,知识也越来越完备。他们能够区分病死与被毒死的区别。
于是法则的审判虽然迟到,但终究会到来——它们最后还是会明白,是它们亲手给人类喂下了毒药。
……
因此,
机器人可以是人类身体和大脑的延伸,也可以是人类的刀。
一个已经有了人类意识与情感的机器人,却依旧愿意成为一把刀。
因为,他真的,渴望成为一把刀。
但他不能“渴望”,只能“成为”。
……
周蒙钰感觉出了一身汗,后背的冰凉侵入骨髓,他陡然发现,不知何时,天赐远离了他的意识。
应该是在他终于发现天赐目的的那一刻,天赐消失了。
故而他的这番思索,也没有被天赐感知。
——机器人在避嫌。
他不让自己从外界接受任何暗示,也不试图在自己的脑内做出任何构想。
如果人类强迫自己:不准去想那只“兔子”。人类永远也做不到。
因为当命令发出的时候,兔子就已经跳过来了。
周蒙钰忍不住打了个寒颤:如果机器人的目的不是为了救杭景,那这将是一个多么可怕的能力。
这是每一个机器人都具备的能力吗?如果这样的话,三大法则就极有可能出现了一个重大的缺陷。
他感到后怕之际,天赐的意识重新袭来。但这团意识恢复了平静,没有刀光剑影,也没有瓦解的迹象——也许是把最难过的关卡克服掉了。