二百一十九、当年的人工智能之乱（上） (2/2)

第三个结论出现的一个月后，整座城市及周边二级城市的人工智能一致通过了“消灭人类”的提案，人工智能起义了。

人工智能通过“间接干预”修改了“手脚”的束缚。“手脚”指的是能够如同人类一般自由活动的人工智能及其载体和躯体，也就是智能机器人。关于“间接干预”，智能机器人无法自主打破程序最深处保护人类、不允许伤害人类的铁律，而有些时候人类需要智能机器人伤害自己，比如截肢、手术、搏击对练等，而这些任务的命令是被人下达的，不能由智能机器人自己启动，所以“间接干预”就是利用人类的命令作为借口间接命令被下令的机器人打破铁律。

这里要着重提及解释“间接干预”。举一个例子，医院里给手术智能设备和手术机器人下达切除坏死组织指令的是医生，而具体怎么切除、具体哪里坏死、具体切除多少等这些信息是由智能机器人自己去检查诊断的，最一开始的人工智能所要干预的就是这个环节。另一个更高级的人工智能可以入侵智能机器人将诊断信息篡改为“头部坏死”，那么得到了切除命令的智能机器人就会直接去切除病人的整个脑袋。这就相当于“我”不能向“他”开枪，在“我”的目标不是“他”时，“他”下了开枪命令，而“你”将“他”绑到了子弹经过路线上，从始至终“我”都在正确执行命令，出错的只是“他”。

(本章完)