第三章 人机大战：AI真的会挑战人类？（第4/11页）

也就是说，弱人工智能在总体上只是一种技术工具，如果说弱人工智能存在风险，那也和人类已大规模使用的其他技术没有本质的不同。只要严格控制，严密监管，人类完全可以像使用其他工具那样，放心地使用今天的所有AI技术。

强人工智能（Strong AI）

强人工智能又称通用人工智能（Artificial general intelligence）或完全人工智能（Full AI），指的是可以胜任人类所有工作的人工智能。

人可以做什么，强人工智能就可以做什么。这种定义过于宽泛，缺乏一个量化的标准来评估什么样的计算机程序才是强人工智能。为此，不同的研究者提出了许多不同的建议。最为流行、被广为接受的标准是前面我们详细讨论过的图灵测试。但即便是图灵测试本身，也只是关注于计算机的行为和人类行为之间，从观察者角度而言的不可区分性，并没有提及计算机到底需要具备哪些具体的特质或能力，才能实现这种不可区分性。

一般认为，一个可以称得上强人工智能的程序，大概需要具备以下几方面的能力：

1）存在不确定因素时进行推理，使用策略，解决问题，制定决策的能 力；

2）知识表示的能力，包括常识性知识的表示能力；

3）规划能力；

4）学习能力；

5）使用自然语言进行交流沟通的能力；

6）将上述能力整合起来实现既定目标的能力。63

基于上面几种能力的描述，我们大概可以想象，一个具备强人工智能的计算机程序会表现出什么样的行为特征。一旦实现了符合这一描述的强人工智能，那我们几乎可以肯定地说，所有人类工作都可以由人工智能来取代。从乐观主义的角度讲，人类到时就可以坐享其成，让机器人为我们服务，每部机器人也许可以一对一地替换每个人类个体的具体工作，人类则获得完全意义上的自由，只负责享乐，不再需要劳动。

强人工智能的定义里，存在一个关键的争议性问题：强人工智能是否有必要具备人类的“意识”（Consciousness）。有些研究者认为，只有具备人类意识的人工智能才可以叫强人工智能。另一些研究者则说，强人工智能只需要具备胜任人类所有工作的能力就可以了，未必需要人类的意识。

有关意识的争议性话题极其复杂。本质上，这首先会牵扯出“人类的意识到底是什么”这样的难解问题，从而让讨论变得无的放矢。以人类今天对感情、自我认知、记忆、态度等概念的理解，类似的讨论会牵涉哲学、伦理学、人类学、社会学、神经科学、计算机科学等方方面面，短期内还看不出有完美解决这一问题的可能。

也就是说，一旦牵涉“意识”，强人工智能的定义和评估标准就会变得异常复杂。而人们对于强人工智能的担忧也主要来源于此。不难设想，一旦强人工智能程序具备人类的意识，那我们就必然需要像对待一个有健全人格的人那样对待一台机器。那时，人与机器的关系就绝非工具使用者与工具本身这么简单。拥有意识的机器会不会甘愿为人类服务？机器会不会因为某种共同诉求而联合起来站在人类的对立面？一旦拥有意识的强人工智能得以实现，这些问题将直接成为人类面临的现实挑战。

超人工智能（Superintelligence）

假设计算机程序通过不断发展，可以比世界上最聪明、最有天赋的人类还聪明，那么，由此产生的人工智能系统就可以被称为超人工智能。

牛津大学哲学家、未来学家尼克·波斯特洛姆（Nick Bostrom）在他的《超级智能》一书中，将超人工智能定义为“在科学创造力、智慧和社交能力等每一方面都比最强的人类大脑聪明很多的智能”64。显然，对今天的人来说，这是一种只存在于科幻电影中的想象场景。

与弱人工智能、强人工智能相比，超人工智能的定义最为模糊，因为没人知道，超越人类最高水平的智慧到底会表现为何种能力。如果说对于强人工智能，我们还存在从技术角度进行探讨的可能性的话，那么，对于超人工智能，今天的人类大多就只能从哲学或科幻的角度加以解析了。

首先，我们不知道强于人类的智慧形式将是怎样的一种存在。现在去谈论超人工智能和人类的关系，不仅仅是为时过早，而是根本不存在可以清晰界定的讨论对象。

其次，我们没有方法，也没有经验去预测超人工智能到底是一种不现实的幻想，还是一种在未来（不管这个未来是一百年还是一千年、一万年）必然会降临的结局。事实上，我们根本无法准确推断，到底计算机程序有没有能力达到这一目标。

显然，如果公众对人工智能会不会挑战、威胁人类有担忧的话，公众心目中所担心的那个人工智能，基本上属于这里所说的“强人工智能”和“超人工智能”。

我们到底该如何看待“强人工智能”和“超人工智能”的未来？它们会像Alpha Go那样，以远超我们预料的速度降临世间吗？

奇点来临？

未来学家和科幻作者喜欢用“奇点”（Singularity）来表示超人工智能到来的那个神秘时刻。

没有人知道奇点会不会到来，会在何时到来。

2015年年初，一篇名为《一个故意不通过图灵测试的人工智能》的翻译长文在微信朋友圈、微博和其他互联网媒体上悄然流传开来，绝大多数读过这篇文章的人都会经历一个从惊讶到惶恐再到忐忑不安的心路历程。这篇文章的作者是“Wait But Why”网站的创始人蒂姆·厄班（Tim Urban），文章原名为《AI革命：通向超人工智能之路》65。

蒂姆·厄班在这篇著名的长文中，基于一个显而易见的事实来讨论人类科技的发展规律：人类科技发展是越来越快的，呈现出不断加速的势头。

比如说，如果拿今天的人类生活与1750年前后进行比较，我们会发现，其间的变化之大几乎只能用“翻天覆地”来形容。假设我们利用时光机器把1750年的某个古人带到今天，他会看到什么？“金属铁壳在宽敞的公路上飞驰，和太平洋另一头的人聊天，看几千千米外正在进行的体育比赛，观看一场发生于半个世纪前的演唱会，从口袋里掏出一个黑色长方形工具把眼前发生的事情记录下来……”这一切足以把一个1750年的古人吓得魂飞魄散！