导弹击落马航MH17：自动化的未来隐患有多大？

2014-07-18 15:56

　　从目前披露的工业病毒特点来看，工业病毒对控制系统的影响已不再仅仅是影响计算机和网络设备运行那么简单，它们可以导致控制系统拒绝服务，可以修改控制程序从而控制或破坏工业生产，可以向操作人员发出虚假信息，以使操作员采取错误动作，其结果可能是造成生产瘫痪而导致重大经济损失，甚至于造成人员伤亡、环境破坏等重大事故。

　　人工智能机器人有可能灭掉人类

　　英国DeepMind公司创始人之一警告称，人工智能机器人是“本世纪第一威胁”，很可能未来将致使人类灭绝。

　　DeepMind公司谢恩-赖格(ShaneLegg)认为人类灭绝将最终发生，机器人技术快速发展很可能成为酿成人类灭绝的原因之一。目前，谷歌公司提出设立伦理委员会，确保人工智能机器人技术不被滥用。

　　霍金表示，人工智能在并不遥远的未来可能会成为一个真正的危险。但肯定不是在谷歌那群好男孩的掌握之下吗？霍金认为，这或许将与谷歌那些好男孩的想法无关。因为一般的机器人可以“进行设计改进它自己，使得它们自己比我们所有人都更聪明。

　　事实上，我们所认为的人工智能其实是无限接近人类，具有极强的决定能力，可对周围的态势做出判断并且分析下一步的趋势，这就像无人机的编程那样，通过机载传感器获得周围的环境情况，然后通过复杂的算法控制无人机在空中的动作，自主决定是否空中悬停还是对目标采取行动。

　　大多数情况下，我们也希望未来机器人可以通过这样的方法来做出决定，但问题是我们必须将这些算法和逻辑过程体现到计算机程序上，但这样会导致一个很严重的后果，那就是人工智能机器人会严格按照程序所赋予的算法来实现最优的决策。那些人工智能机器人会无情地追求自己的目标，从人类的角度看可称之为失控，对于智能机器人而言，它只不过将算法所赋予的能力发挥到极点，而那些失去“理性”的智能机器人很有可能变成人类的杀手，与我们战斗到死。

<上一页 1 2 3 4 5 6