100：超级智能系统 (第4/10页)

于方才还在埋头处理工作的萧停云也忍不住抬起了头。

    沈乔故意睨了他一眼，然后又当不存在似的，对龙玖继续道：“机甲的核心自然是它们的系统，现在这些机甲里的系统虽然被称为智能系统，可事实却是它们也并不是完全智能。”

    龙玖似懂非懂地点了点头，“那完全的智能系统又是什么样的？”

    沈乔神秘地一笑，道：“和人一样，那才是真正的智能系统。它们可以有自己的思想，能够根据自身或者环境而进行自动升级。”

    “可这样的话........”龙玖皱眉，她脑子转得很快，根据沈乔的描述，她已经飞快地想得十分长远了，“它们跟人类还有什么区别？智能系统拥有了自己的思想，不是很容易产生自我吗？一旦让它们产生了自我，那以后究竟是人类在控制它们，还是它们反过来再控制人类？”

    别说龙玖是仅凭自己的意识想到了这个，就连萧停云在听完了沈乔关于智能系统的描述后，正了脸色，沉声道：“我记得很多年前的一位著名的人工智能研发教授曾经警告过，不管时代如何的变化，也不论人工智能的科技如何发展，但唯一要谨记的就是绝对不能让智能系统产生自我和自己的思想，否则人类明文将会遭到前所未有的毁灭性颠覆。”

    萧停云严肃地看着沈乔，提醒道：“你这个研究方向太危险了。”

    现在的星际时代，哪里都离不开人工智能系统，倘若一旦让这些人工智能系统产生了自我和思想，那么等时日一长，这些人工智能系统不一定