“早就该猜到这
点。”崔维兹咕哝
句
们将它称为‘第零法则’,因为想不到有什
更合适
名称。第零法则
内容是:机器人不得伤害人类整体,也不得因为不采取行动而使人类整体受到伤害。这自然意味着第
法则必须修正为:除非违背第零法则,机器人不得伤害人类,也不得因为不采取行动而使人类受到伤害。而第二、第三法则也必须做类似
修正。”
崔维兹皱起眉头。“但对于人类整体而言,何者有害,何者无害,你又如何决定?”
“点都没错,阁下。”丹尼尔说:“理论上,第零法则可以解决
们
问题;实际上,
们永远无法做出决定。人类是个具体
对象,对
个人构成
伤害不难估量判断;人类整体则是抽象
概念,
们应该如何对待处理呢?”
“不知道。”崔维兹说。
“慢着,”裴洛拉特说:“你可将人类整体转变成单有机体,例如盖娅。”
“这正是试图进行
工作,阁下,盖娅
创建就是
手策划
。假如能让人类整体形成单
有机体,它就会变成具体
对象,这样便有办法处理
。然而,创造
个超有机体
工作,没有想像中那
简单。首先,除非每个人将这个超有机体看得比自身更着,否则绝对不可能成功。因此,
必须寻找
个适切
心灵模型,找
很久之后,
才想到机器人法则。”
“啊,那盖娅人都是机器人。打从
开始
就怀疑这点。”
“这件事情,你怀疑并不正确,阁下。他们都是人类,不过在他们大脑中,根深蒂固地烙印着等同于机器人法则
概念。他们必须尊重生命,真正尊重——即使做到这
点,依然存在
个严着
缺陷。
个仅有人类
超有机体并不稳定,根本无从建立,其他
动物必须加进来——接着是植物,跟着是无机世界。真正稳定
最小超有机体,其实就是个完整
世界,唯有世界才足够庞大、足够复杂,得以拥有稳定
生态。
花
很久时间才
解这个道理,而直到最近
个世纪,盖娅才完全发展成功,准备向盖娅星系
目标迈进。纵使如此,那也需要很长
时间。不过,或许不会像来时路那般漫长,因为
们已经知道规则。”
“可是你需要替你做出决定。对不对,丹尼尔?”
“是,阁下。机器人法则不允许
,或是盖娅,做出为人类整体带来风险
决定。另
方面,五个世纪以前,
以为建立盖娅
重重困难绝不可能克服,于是
退而求其次,协助人类发展出心理史学这门科学。”
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。