下几个硬性的规定让它不会危害到人类的安全。 所以孙明就在这个超级人工智能001号里写下了一串代码,这代码的意思是“在人类需要的时候帮助人类”。 没有更复杂的指令了,不需要机器人去拯救人类,也不需要它们完全替代人类的工作和生活,只需要它们尽己所能地帮助人类就可以。 这是一个非常软的指令,但这种指令不会造成巨大的危害,比如“见到人类危险