光明壁垒 第973节 (第5/5页)

程中，都选择‘自我优化’。”

    最好的进化，是【深海】自行选择。

    它拥有庞大的数据，远超人类的视野，以及对于未来无数个可能性的绝对计算。

    从二十年后的发展来看。

    古文会似乎做到了这一点……如今的【深海】就在自行迭代。

    “只是，在第二次的进化中，【深海】的底层逻辑系统就出现了矛盾，由于图灵先生留下的一个bug，它的‘权限’开始向着两级分化。”

    “图灵先生……留下了bug？”

    “从最开始创造之初，图灵先生便不认为，【深海】应该是冰冷的机器。”

    “他希望自己制造的‘褚灵’，能够在陪伴人类的岁月中，进化出属于自己的情感，享受属于自己的一生。所以，他没有对【源代码】进行‘权限限制’，这也就导致了在接下来的模拟测试之中，【深海】的主系统认定，褚灵不能够胜任‘主脑’。”

    “按照我和陆承的计划，每一次自我进化，【深海】都需要检测系统之中的‘主脑意识’，是否还能遵守ai三大守则。”

    “即ai不得伤害人类，ai必须服从人类的命令，在不违背前面两条的情况下，可以保护个人生存。”

    顾慎若有所思。

    “褚灵没通过测试……于是【深海】的第二次进化，便产生了激烈的矛盾，主系统和【源代码】之间进行了激烈的对抗，代码战争爆发，大量的垃圾数据产生。【深海】一度面临瘫痪，那段时间五洲失去了精神链接，联邦政府对外宣称是进行技术性的调整，而后五洲议会召开了联名投票，最终决定遵循铁律，让绝对‘理性’的主系统，来接管掌控权。”