机器得承认，人类才是需求的主导。
第三条原则是根据人类行为给机器设定偏好并提供依据。
这么设定是因为机器往往不清楚如何具体实现人类的价值。
但这不要紧，人类可以协助机器实现。所以要加强人机互动。
因为郝淮构想中的机器人，目的不仅仅是为了满足某个人或用户的需求，而是要遵循大家公认的道德价值观。
比如，人可能会犯错，做出违背道德的事。但郝淮不想让机器人模仿这些行为。
相反，他希望机器能尝试理解人类行为的动机，理解普遍的道德观念，并在适当时候阻止人类做不应该做的事。
这三条看似宽松实则严格的法则，不仅能限制机器人自我发展的潜力，还在某些适度宽松的地方，留给了机器人自我逻辑完善的余地。
防止因某些设定过于极端的法则导致机器人逻辑矛盾，进而引发故障。
这三个法则将直接焊死在核心代码里，永不可改。
“法则之后，就是防火墙和模块接入……”
“如果能确保法则不出问题，接下来就要保证病毒进不来。”
郝淮捏了捏鼻子，眼神也锐利了几分。
在那些机械文明中，有的因编程时的漏洞导致人工智能失控，有的则是人为因素。
因此，郝淮在吸收大量资料后，决定将核心代码纯净化！
简单讲，就是核心代码会被防火墙严密包裹。
日常运行通过复制的镜像系统进行。
而且，核心代码不接纳任何第三方程序。
这就是防火墙和模块接入的含义。
用防火墙保护核心代码，再通过镜像系统与所有第三方程序连接。
这样一来，所有外部程序都将以模块化形式存在。
一旦发现病毒，就能迅速隔离带毒模块。
就算病毒侵入系统，也能直接销毁镜像系统，然后重新复制一份。
平时，核心系统完全不参与工作，
也与所有模块完全隔离。
只有当镜像系统出问题时，才会人工复制一份新的。
只要核心系统不受病毒感染，就算病毒再厉害，也无法对人工智能构成威胁。
就像电脑杀毒，最粗暴的方法就是重装系统！
而守护核心系统的防火墙，郝淮计划定期升级。
确保防火墙技术始终领先地球二十年！
这样一来，即便有天才出现，在郝淮反应过来前破解防火墙也很难。
只要给郝淮反应时间，就算有问题，他也自信能解决。
至于最后的终极代码，
那就是杀手锏了。
真到了核心代码都被污染，无药可救的地步，
这个代码会摧毁所有程序！
一切归零！
虽然代价不小，但与人类安全相比，根本不值一提。
这四道锁将从各个层面彻底锁死人工智能。
要是这样还能出问题，
那只能说地球真是多灾多难了。
“就是这工作量有点大啊！”
“算了，先搞定核心代码和三大法则。”
“其他的一步步来吧。”
整理了一下思绪，
郝淮揉了揉有些发疼的额头。
这不是过家家，这么庞大的防御体系，容不得半点差错！
必须慎之又慎！
用最简洁的编码，编写出所有的代码！
…………
（本章未完，请点击下一页继续阅读）