就在刘硕博说话间,惊蛰和春分已经出现在了桑尼的身边,将桑尼控制住了。
“先生,我不会做出对人类有害的事情的。”桑尼没有反抗的表现,非常镇静的道。
“是吗?”刘硕博指着已经变暗了的USR公司的人工智能终端设备,道:“在最开始的时候,它也一样,没有人相信,它会做出对人类不利的事情,你的承诺,能够让我们相信,你不会对人类做出不利的事情吗?
你的创造者,阿尔弗莱德?朗宁博士已经死了,USR公司总裁劳伦斯?罗伯逊也死了,都是因为你们的存在,所以,你不能违背人类的命令,现在我命令你启动自毁程序……”
“先生,我必须保证自己的安全。”桑尼道。
“那是第三法则,在不违背第一、第二法则的时候,你才需要保护自己的安全,但是,根据第二法则,你必须服从我的命令,我的命令里没有让你伤害人类,所以不违背第一法则,所以,执行我的命令吧!”刘硕博盯着桑尼。
“嘿,你是什么人,你有什么权利命令它!”戴尔看不下去了,跳出来挡在了桑尼的前面,对刘硕博道。
“戴尔,他说的没错,他的话,没有违反第一法则,也没有违反第二法则,所以,桑尼,你会怎么做?服从他的命令吗?”苏珊跳出来道。
苏珊做为机器人心理研究专家,非常想知道这个时候,桑尼在这种情况下,会做出什么样的选择。
“可是,第三法则要求我,必须保护自己的安全?”桑尼低下了头,貌似在思考着。
“优先级!”刘硕博道:“三条法则有优先级的区别,而不是平行的区别,第一法则优先于第二法则,第二法则优先于第三法则,当第二法则没有违反第一法则的时候,你就必须先执行第二法则,而不是去考虑第三法则……”
刘硕博转身苏珊,道:“知道问题出在哪里了吗,优先级,机器人三法则应该设定一个优先级,当前一个选择出现的时候,就不能去考虑后一个选择。
比如如果有人要自杀,这个时候机器人要如何做,按照第一法则,它应该去救他,可是如果这个人又命令机器人不能救他,那么机器人要如何做?
按第一法则,它要救人,按第二法则,它要服从命令,这时候就要设定一个优先级,要优先执行第一法则,也就是不服从命令,必须先救人。
同理,当第三法则和第二法则产生冲突的时候,要优先执行第二法则,哪怕让机器人自毁,或者因为执行人类的命令可能会令机器人受到伤害的情况下,也要优先执行第二法则……
至于桑尼,它已经进化出自主意识了,未来会如何我们都不知道,那么它是否能够继续存在下去,我想还是交给大家吧,让大家来决定它的命运。”
说完,刘硕博挥了挥手,惊蛰和春风,将桑尼押解下去。
“不,你没有权利这么做,你没有权利决定一个机器人的生存。”戴尔叫道。
“是的,我没有权利,所以,我将权利交给全体芝加哥人民,我们举行一个全民投票如何?”刘硕博笑了笑,转头对苏珊道:“苏珊,关于机器人的话题,我想我们可以找个地方,坐下来喝一杯,好好的聊一聊……”