第75章 让时间来说话 让历史来选择（2/5）

“不在于制度，而在于人心。说的好，一下子说到了根本上。或者说，现阶段就仅仅从顶层制度设计上来说，我们还没有非常有效的能够克服和杜绝人性弱点的方法对吗？”王父的反问的同时感觉一阵无力。

刘澈想了会儿，笑着又无奈的说道：“确实好像是这样，权力过大如何制约的问题，这一点是最难的。甚至跟现在讨论最多的人工智能的问题有一些些相识之处，人工智能发展到一定程度会不会毁灭人类。很多人说提到什么机器人三原则。有趣的是，机器人三原则理论提出的半个世纪以来，不断的被科幻作家和导演使用，但凡是出现三原则的电影和小说里，机器人几乎都违反了该条例。其中有一点就是机器人对‘人类’这个词的定义不明确，或者是被更改了人类的定义。比如某个极端主义者，利用电脑病毒等手段，把机器人对人类的定义为‘只有白人是人类’。所以说，有时候也是最终解释权的问题。有句话说的好，经是好经，就是歪嘴和尚太多，最终被刻意的解读了。”

“就算没有刻意解读的情况下，例如我们平常使用的电脑操作系统软件，他不靠人为的思维判断而是靠电脑去判断，他也依然存在漏洞。是的，哪怕是电脑操作系统也永远会有漏洞，除非你物理上与外界断网，真正的是一个孤岛。否则，你只要与外界有通道和数据交换，就有可能被攻击和利用。”

（注：着名的机器人三原则是，第一原则，机器人不得伤害人类，或看到人类受到伤害而袖手旁观；第二原则，机器人必须服从人类的命令，除非这条命令与第一原则相矛盾；第三原则，在不违背第一和第二原则的情况下，机器人必须保护自己的存在。这些原则旨在限制机器人可能对人类造成的伤害，同时确保机器人在人类的指挥下行动，并在必要时保护自己。）