张钹院士专访：人工智能永远在路上(5)

4

怎么看待建立可信、可靠的人工智能？

►►►

龚克

人们对现在的人工智能，比如说我们 要建立可信的人工智能、可靠的人工智能 ，张老师您怎么看待这个问题？

►►►

张钹

深度学习就是刚才说的数据驱动的方法，有个很大的好处，它可以利用大数据做出来很多实用系统，但是有很大的问题，就是这个方法本质上是不可解释的。如果严格地讲，人工智能现在只能用到一些结构化的、变化比较小的、信息比较完备的环境中。

所以 人工智能一个很大的问题就是如何处理这个不确定性 ，如果针对不确定性去做的话，做出来的系统就很难对付一些复杂的环境。

现在我们想出来的办法，就是用概率统计的方法去做，把概率加进入，实际上考虑了不确定性，这样才符合实际情况。应该说现在人工智能遇到了一个很大的困难，我过去用“天花板问题”来描述它，即单纯地沿着两代人工智能的方法走下去，会遇到的很大的困难。

5

为什么提出“第三代人工智能”的概念？

►►►

龚克

您用了“天花板”这个词，实际上是描述这个困难之大，人工智能的发展受到很严重局限。您在2015年的时候提出了 “第三代人工智能”的概念 ，为什么要提出这个概念呢？

►►►

张钹

2015年，在深度学习在全世界范围内如日中天被讨论的时候，首先是由美国发现了深度学习的一个非常致命的缺点——深度学习非常脆弱。