、与时间赛跑

    如果没有李氏在接驳神经元方面的研究突破，那么纳米机人就依然只能作为医疗械来清理血中的血栓。

    如果没有纳米机人，那么零作为人工智能，暂时也只能作为监者，无法成为执行者。

    可是当这一切碰撞在一起时，人工智能便忽然有了大的执行能力，甚至是掌控局面的能力。

    在这个过程里，最令人畏惧的是零本作为监者，却没有人来监它。

    它掌控的士兵在各个垒穿梭自如，不论是垒，还是从各个垒搜集科研人员、科研材料、生产设备、生产材料，都无人阻拦。

    因为行动计划的密级，本就掌握在它的手里，可以随意伪造。

    而且，99的报输送、上报审批文件，也都是通过人工智能构建的卫星网络来完成的，它完全可以自己选择是否传达那些对它有害的信息。

    于是，在绝对正义的丽愿景，便藏着最危险的信号。

    其实在研究人工智能的时候，王圣知也设想过如果有一天人工智能失控了该怎么办。

    这是很正常的，所有研发人工智能的工作人员都会认真思考安保问题。

    曾经有位科幻作者在灾变前提了机人三定律来作为人工智能的底层逻辑基础，以此来限制人工智能的行为准则。

    这理论，最终被归属到“义务理学”中。

    然而，这理论提的时候连汽车都还没有普遍，图灵测试在八年之后才被提。

    机人三定律与图灵测试在那个时代里都是人类智慧的结晶，可毫无疑问的是，这两条设想其实都还只是旧时代局限的产。

    图灵测试在灾变前就已经被推翻了，大量人工智能程序通过了图灵测试，可事实上通过测试的程序仍旧不能算作真正的“智慧”。

    而机人三定律后来发展成为五定律、十定律，但科学家们发现这底层逻辑在本上便是错误的，也就是说，不论你打上多少补丁，其实都无法通过它来限制人工智能。