洪小文：以科学的方式赤裸裸地剖析AI（四）| 未来是人工智能+人类智能

编者按：AI技术发展至今，引起了无数的关注，也激起了人们广泛热烈的讨论。强AI的实现需要多少时间？是否要做一个有意识的AI？未来人类智能和人工智能应该如何相处？

9月27日，微软亚洲研究院院长洪小文倾情授课由清华大学发起的《脑科学与人工智能对话：基础与前沿》系列课程第一讲。本文是洪小文院长演讲整理稿的第四篇，文中主要和大家讨论了AI技术未来的发展问题。文章转载自公众号“知识分子”。

接近500年达到强AI

弱AI其实很强。弱AI就是80年代的专家系统。它很弱，只懂一个领域，它也没有理解。就像我们现在的翻译，大部分人不可能学那么多语言；同时虽然它没有理解力，但是在很大程度上是可用的。它就像专家系统，就像我们人不可能每个东西都懂。不过，弱人工智能其实很好用，它是专用型的，某种意义上其实很强。

强AI其实很弱。我们人就是强AI——我们跟每一个行业的专家比都没有那么强。要真正做到强AI，需要把所有AI探讨的问题都解决，也就是需要完全的AI（AI-Complete），要把语音解了，图像解了，要把所有东西都解决。

这里要提一下我的导师。因为预测未来是很难的。当年他们五个人做AI的时候，John McCarthy说20年之内AI就解了，Herb Simon 跟Allen Newell没讲那么激进，他们说20年之内一定没有人在下棋方面赢得过AI，但是也不对。我的师祖最有智慧，他说是5年至500年。我想他太有智慧了。我认为可能更靠近500年（才能达到强AI）。

我们通常都高估了短时间之内可以完成的事情，但是经常低估长时间可以完成的事情，所以我觉得5-500年是一个最有智慧的回答。

是否要做一个有意识的AI？

强AI一定是和意识非常有关的。做一个有自我意识的强AI有没有用？

如果我叫我太太去帮我准备一杯咖啡，十次有五次她会说，你自己有手有脚，为什么不去？如果一个机器人有自我意识的话，它就应该有它的个性，所以我们可能根本不需要有自我意识、有个性的机器人。其实我觉得做一个强AI，做一个有意识的机器人，本身可能就是一个伪命题。

另外一点是，我们到底是否了解我们自己？我们对自己的了解实在太少了。无论是认知科学、脑科学，人的智慧从哪里来，人的创造力从哪里来，这些问题我们根本就不了解。既然我们不了解，那如何产生出一个又聪明、又有意识的机器呢？我们有小孩的人，巴不得小孩比我们聪明，有自己的意识。但是有了意识之后，你就无法控制他，你叫他往西，他偏要往东。所以想要产生又聪明又有意识的（强AI），我的建议是现在城市的小孩太少了，大家多生点小孩不就好了吗？

所以其实说穿了，真正做出一个强AI，在学术界是非常有意义、有意思的；但是从应用上讲，我是存疑的：因为不可兼得，一个东西有强AI的话，它一定不会听你的话。因此，是否做一个有意识的AI，值得讨论。‍

未来永远是AI+HI

再来说一说算法。大家都不用担心算法只被某几个人知道。今天的算法都已经开源，而且大家都想要发表这些算法，没有一个人有AI的“独家”本领。所以，我觉得有足够的人想算法，不用担心。

那么，大家要不要怕AI？其实根本不用怕。AI是一个技术，而不是一个生命。就像飞机，飞机是好事，但有人拿飞机去做恐怖袭击，你是怪飞机呢？还是怪开飞机的人？甚至例如核武器，有人说核武器是这个世界上最好的发明，我们到现在都没有战争。所以应该怪技术后面操作的人，而不是怪那个技术。

反而，我觉得数据是需要管制的。举个例子，内线交易。到底什么样的人、什么样的单位、什么样的数据，能做什么样的事？到底数据是不是智慧？我认为很大程度不见得是。我们现在认为一个人博学多闻是一个很好的事情，但是拿炒股票来说，一个人知道一些内幕，他炒股就会很好，但是你不会说这个是智慧。

到底我们人、生命，是不是可以算法和数据模型化？我是不太相信的，主要原因是，没有一个元算法，可以用新的算法去解决新的问题。我觉得这一点非常重要，创造力可不可以算法化？有没有可能？我个人觉得是非常困难，而且可能永远达不到。

而且如果真有的（这样的元算法）的话，这个世界也不是我们想生活的一个世界。因为假如有一个元算法，可以无止境的工作，把这个世界的问题都解了，那人活下去干什么呢？人活下去一个很大的动机就是发现真理，我们到今天有一大堆问题都不知道答案，连NP等不等于P，从1960年代就提出了，到今天还没有解。

我们今天有云计算、大数据、AI，但NP等不等于P还没有看到解决的影子。包括人类从哪里来？宇宙从哪里来？我们又去向何处？如果这些问题真的都被AI解决的话，可能那一天很多人会自杀，因为人的生命就没有意义了，这也是哲学的问题。

所以讲到创新，奇点（singularity，一个假设的时刻，AI或者其它技术非常先进，人类进入到一个剧烈而无法回头的改变历程）会存在么？我们知道有摩尔定律，但是会有智能的大爆发吗？我们看那些难的题目，一些很难的题目到今天还是没有解。今天解了一个难题，不代表下一个难题也会被解，（解题速率）不会是每18个月增加一倍。今天解了一个难题，下一个难题会离我们更近吗？绝对不是。所以说奇点，我觉得是没有任何根据的。通常解了一个难题，下一个难题会更难解，这是我的结论。

不过，随着计算机计算能力的提升加上数据的增长，我们真的可以做更多的事情，特别是重复性的事情。当然有人说AI会取代工作，事实上被取代的工作，大部分是重复性的事情，包括在机场安检、看人、看行李箱。我觉得从AI发展的历史到可预见的未来，都是AI和人类的共存化。我在80年代学AI，发现没有用，所以我就去做了统计；可是现在我回头看，发现真正要做AI，当初先人讲的这些东西是我们真正要学习的。我觉得在做AI的时候，也帮助我们了解了人类的智能。

还有一点，未来永远是AI+HI（人的智能），除非直到某一天有一个程序，能发明新的算法，解决新的问题。但如果有这样一个程序，那就不得了，就有了一个一般求解器（general problem solver），就有可能解决世界所有的问题。NP大概是不可能等于P的，NP等于P这个世界就乱套了。因为NP的意思是说，我给你一个问题，你通常要找答案，这个是NP；验证一个答案是否正确通常是P，如果NP等于P，就等于数学上解问题和验证问题是一样的简单，这个世界就乱套了，所以NP大概不等于P。但是我们人类有没有可能去证明NP不等于P，或者NP等于P？我们不知道，但这正是人生的美妙之处，我们继续往前进。

AI要达到像科幻小说描述的那样还需要很长的路，因为我们了解的人类的智慧还不够。特别是，需要脑神经科学进一步的发展才能够让我们更了解（人类的智慧）。应该很庆幸，我们是第一代和AI一起成长的人类。我觉得人类的智能，虽然不能解决所有的问题，但是人类智能似乎是不受限制的。我们有很多缺点，我们也会老化，但是这些缺点好像帮助了我们的创造力，帮助了我们的智慧。未来需要我们继续地去探索和创造。

你也许还想看：

● 洪小文：以科学的方式赤裸裸地剖析AI（三）| 人的智慧在哪里？

● 洪小文：以科学的方式赤裸裸地剖析AI（二）｜从寒冬到复兴

● 洪小文：以科学的方式赤裸裸地剖析人工智能 | 混沌初开

感谢你关注“微软研究院AI头条”，我们期待你的留言和投稿，共建交流平台。来稿请寄：[e-mail]。