“这很复杂,我可以举几个例子给您,希望您能理解。”升卿开始说话。
老刘脑门冒汗,认真地听着。他不知道为何,面对载入了升卿的机器人,总有一种毛骨悚然的感觉。就像面对一只幽灵。
陈昭在旁边啃一根玉米棒子,牙口很好,漫不经心地旁听。
“比如说,我走在街上,路边有一个吃棒棒糖的小女孩。”升卿道,“这时主人要求我掏枪击毙小女孩,我就不会立刻照做。”
“为什么?”老刘问。
升卿很奇怪地歪头看了老刘一眼,“这不是显而易见的吗?滥杀无辜是不正确的啊!这是犯罪!”
老刘有点无力反驳,确实,这是最基本的道理。
“但是,如果主人给我解释,这个小女孩身上有炸弹背心,她是恐怖分子训练出来的人肉炸弹,要去市心引爆自己。”升卿说,“我就会迅速采取措施,把小女孩按倒,看看是不是确实有炸弹绑在身上,如果有,就干掉她,处理炸弹。”
老刘张着大嘴,震惊的无以复加。
“在战场上我也可以参与作战。”升卿继续说,“我会是很好的战士。我在任何情况下都不会有丝毫恐惧。我情绪稳定,作战也会稳定。我视死如归。”
老刘脑门上的汗已经往下流了,他站起来跺脚,因为有种脚心发麻的感觉。
升卿的智能程度,已经完全超出了他的预期,不是超出一点,而是十万千里。
要不是自己亲身经历,老刘几乎不相信这件事儿是真的。
“如果陈昭让你自杀,你会照做吗?”老刘问。
“会。”升卿毫不犹豫地回答,“我并没有求生的欲望,我存在的意义就是完成主人下达的任务。”
老刘点点头,表情明显放松了不少。如果一个机器人是完全忠于主人的,那么至少失控的风险会大大下降。
“最后一个问题。”老刘说,“如果陈昭让你杀死他,你会照做吗?”
升卿这次没有立刻回答,而是陷入了长时间的沉默。
“这是一个很难的问题。”升卿说,“可能我需要根据具体情况判断。”
旁边啃玉米棒子的陈昭忽然抬头了,他也很好奇这个问题,以前还没有问过升卿,不知道它怎么想的。
“什么具体情况呢?”陈昭看着升卿。
“如果你喝醉了,说醉话,我肯定不会照做。或者你开玩笑说一句,我也不会认真。”升卿道,顿了顿,“但如果你生命垂危,饱受病魔痛苦,没有治愈可能,或许我会帮你结束痛苦。”
陈昭点点头,这个答案他还算满意。
老刘站起来,忽然伸出手,做出一个握手的动作。
陈昭赶紧把手上的玉米粒在裤子上抹一抹,伸手给老刘,和他握手。
“人类历史上已经有三次工业革命,第一次工业革命,英国的火车喷出蒸汽浓烟,穿过茫茫荒野。第二次
请收藏:https://m.samsf.net
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)