与神初会(22)

反正人们经常对机器大发雷霆,因为难以理解的错误、突然丢失的文件和原因不明的死机,多少人一时冲动砸坏他们手头的设备,最后还是不得不坐下来解决问题。

他带着两杯盖上盖子的纸杯咖啡走出警局大门,看到艾斯卡拿着早餐正打算过马路。罗克示意他在车边等,艾斯卡居然读懂了他以眼神发出的指令,立刻停下脚步。

“你答应我在办公室里。”

“是的,不过我觉得违反这个指令无伤大雅。”

“无伤大雅。”罗克琢磨着这个用词,“意思是虽然你违反了我的命令,但是你自己觉得没什么关系?”

“是的。”

“拿着你的咖啡,玛丽琳特地为你准备的,她还让我提醒你,不要染上我熬夜的坏习惯。”

艾斯卡接过纸杯,把早餐递给他:“我忘了问贝克小姐你喜欢哪种酱料,所以加了最受欢迎的洋葱酱。”

“我的个人信息里没有写吗?”罗克嘲弄地问。

“如果你在网上购买的话或许有,布雷恩警官,你可以告诉我你的喜好,我会记住。”

“不必了,这种过分亲密的私交关系应该发生在互有好感的伴侣之间,你不用记住我的喜好,也不用照顾我的日常生活,当个正常点的助手就好。”罗克咬了口三明治,他更喜欢芝士酱,不过这个口味似乎也不差。

“现在去苏珊女士家太早了点,我要再去一次现场。”罗克说,“调查一下卡米拉的生活细节。”

“布雷恩警官。”艾斯卡说,“我建议由我来开车,这样你可以安心在车上享用早餐。”

“我一边吃一边开。”

“出于安全考虑,我认为你不应该这么做。”

“我觉得你应该习惯一下,试着做个不那么循规蹈矩的机器人。”罗克一只手扶着方向盘一只手拿着早餐说,“你想学怎么当个人,你的团队也希望你更像个人。记住,学着做人的第一课就是去他妈的规矩。”

“你是一名警官,不该藐视规则。”

“喔,对,我是警官,所以我更可以对某些规则视而不见。”罗克抬手对路边的人打招呼,“看到那个巡警了吗?他叫埃里克,我用拿三明治的手跟他打招呼,他有没有像你一样把我拦下来告诉我说出于安全考虑,我不该这么做?我觉得你刚才的用词恰如其分,违反一点小小的规则无伤大雅。”

罗克以为这个“完整版”的艾斯卡会和上一个“预设”的艾斯卡一样困惑不解,然后喋喋不休地告诉他规则有多重要。虽然上一个也不怎么听话,但那时罗克还没发现他是机器人,和人争论的感觉是不一样的。

然而这个艾斯卡在一阵微妙的沉默后,竟然点了点头:“这很有意思,人类制定了各种规则,可以说每一种规则都建立在惨痛的过往案例上,但是大部分人仍然可以轻易逾越规则,包括像你这样的执法者在内。”

“我们人类就喜欢不断地重复错误,你们机器不会犯错吗?”

“我遵守现有规则,我认为有序可以减少灾难。”

“要是大家都专心致志地开车,遇到车祸的人确实会少很多,不过那是做梦。每天有两三千人死于车祸,就在我们说话的时候可能就有人死在车轮下。”

“因为总有人违反规则。”

“对。”罗克重复着他的话,“总有人,违反规则。”

“或许将来所有车辆都采用严格遵守规则的自动驾驶会更安全。”

罗克笑起来:“你是在推销自己吗?让机器接管所有车,你们不会一口气把我们全都送进地狱去吧。”

“制造机器的初衷是为了更好地服务人类、保护人类。初衷很重要,它是开端,可以是一个经过严格讨论后确定的元指令,必须清晰、明确,没有歧义,能够指导且避免意想不到、不符合预期的决策和难以挽回的后果。”

“听起来不错,那你的元指令是什么?”

“我告诉过你,布雷恩警官,两次。”

“抱歉,有时候你说的话太多,我可能没有全听进去。”罗克心想,是几乎没有去听,艾斯卡经常像一台喋喋不休的电视机,自顾自地播着没头没尾的电视剧。

“我的元指令是确保完成与你的警探搭档任务,并在此基础上尽最大努力为你提供全面、有效、安全、可靠的帮助和服务。当然为了辅助完成指令还有很多细化的生成系统和判别系统……”

“等一等,亲爱的,我好像没从里面听出你必须得服从我的命令。”

“我尽可能服从,但不是绝对服从,这取决于你的命令是否有利,如果你将自己置于危险状态,我可以拒绝一切会导致你受伤害的命令。”

同类小说推荐:

耽美作者主页排行榜