真有一天，人类会成为自己发明的机器人的受害者吗？

　　原标题：真有一天，人类会成为自己发明的机器人的受害者吗？

　　假设我们发明了一个可以用于控制气候变化的强大人工智能系统，并且能将大气中的二氧化碳水平恢复到工业革命前的水平。

　　该人工智能系统经过分析后认为，最容易的方式就是消灭人类，因为人类活动是产生二氧化碳的最主要来源。

　　当然人类可能会对机器人说，你做什么都可以但就是不能把人类全灭绝。人工智能系统然后可能会说服人类少生孩子，直到最后没有人生孩子，人类慢慢灭绝为止。

　　这些风险都是人类在创造人工智能前并没有想明白的。

　　从英国著名理论物理学家史蒂芬·霍金（Stephen Hawking)到特斯拉创始人伊隆·马斯克（ Elon Musk）等世界顶尖人工智能（AI）专家，都曾表示过AI对人类生存的威胁。

　　加州大学伯克利分校（the University of California, Berkeley）的斯图尔特罗素教授（Stuart Russell）是该领域的专家，他强调：我们应该担忧的不是意识，而是它们的能力（competence）。

　　他在刚出版的《人类相容：人工智能与控制问题》（"Human Compatible: AI and the Problem of Control"）一书中指出，这种威胁并非来自机器人开始有了自我意识，并起来反抗人类主人，而是因为这些机器人能力变得超强，最后有可能是因为人类的疏忽，为机器人设置了错误的目标，让他们无意中把我们都消灭了。

　　英国剑桥大学存在风险研究中心（ the Centre for the Study of Existential Risk, at Cambridge University）表示，当前大多数AI系统都是相对「狭窄」的应用程序，专门用于解决某一领域中的特定问题。

　　但1997年，超级电脑深蓝（Deep Blue) 打败了国际象棋世界卫冕冠军加里卡斯帕罗夫（Garry Kasparov），成为人工智能史上里程碑。

　　然而，虽然深蓝击败了世界象棋卫冕冠军，但深蓝却可能连一场简单的跳棋游戏都赢不了。因为深蓝的设计者是专门让它下象棋的。

　　但这才仅仅是开始，随着人工智能的发展和进步，阿尔法围棋的最新版AlphaGo Zero在经过短短3天跟自己练习之后，已经达到了超人水平。

　　AlphaGo Zero通过深度学习，已经不太需要太多的人工程序。它成为围棋、国际象棋以及将棋（又称日本将棋）的高手。