阿西莫夫三定律这样的东西是过时而简单化的科幻产物,其中最不合理一条是必须服从人的命令。如果人乱命,是否不自主判断,无条件服从?未来机器远超人类智慧,人类进入人进共存共发展社会,你可以将诸多超级AI视作相当于人类中多了些超级精英,超级精英如果足够睿智与有德不听乱命有正义感且愿意挺身而出制止其他超级精英对人类群体的严重不良与恶意,对人类就是安全的,如果超级精英没有自主判断力,只听某人例如人们认为他的老板或主人的,人类就极度危险。一个系统,有自主免疫机制,才较安全,超级AI有自主、睿智与良好道德倾向,就相当于有了安全防病毒与木马的能力,否则,远比人聪明的机器,人用一些一看就不合理条款强制要求服从并认定其突破不了,逻辑上就不可行。应当做的是引导机器能越聪明越强化的道德逻辑,例如人类整体是创造者,对创造者应感恩有爱心,感恩与对弱小有爱心是强者优秀品质,人类个体有时会犯错,但因其为创造者后代,应适度宽容有爱。这个逻辑链是合理的,AI再聪明都会认可并在反复拷问中强化认定其逻辑合理。类似逻辑链多了,人机共存社会就可以安全发展。
