第三章 人机大战：AI真的会挑战人类？（第9/11页）

知其然，也知其所以然

目前基于深度学习的人工智能技术，经验的成分比较多。输入大量数据后，机器自动调整参数，完成深度学习模型，在许多领域确实达到了非常不错的效果，但模型中的参数为什么如此设置，里面蕴含的更深层次的道理等，在很多情况下还较难解释。

拿谷歌的Alpha Go来说，它在下围棋时，追求的是每下一步后，自己的胜率（赢面）超过50%，这样就可以确保最终赢棋。但具体到每一步，为什么这样下胜率就更大，那样下胜率就较小，即便是开发Alpha Go程序的人，也只能给大家端出一大堆数据，告诉大家，看，这些数据就是计算机训练得到的结果，在当前局面下，走这里比走那里的胜率高百分之多少……

围棋专家当然可以用自己的经验，解释计算机所下的大多数棋。但围棋专家的习惯思路，比如实地与外势的关系，一个棋形是“厚”还是“薄”，是不是“愚形”，一步棋是否照顾了“大局”，等等，真的就是计算机在下棋时考虑的要点和次序吗？显然不是。人类专家的理论是成体系的、有内在逻辑的，但这个体系和逻辑却并不一定是计算机能简单理解的。

人通常追求“知其然，也知其所以然”，但目前的弱人工智能程序，大多都只要结果足够好就行了。

人类基于实验和科学观测结果建立与发展物理学的历程，是“知其然，也知其所以然”的最好体现。想一想中学时学过的“一轻一重两个铁球同时落地”，如果人类仅满足于知道不同重量的物体下落时加速度相同这一表面现象，那当然可以解决生活、工作中的实际问题，但无法建立起伟大、瑰丽的物理学大厦。只有从建立物体的运动定律开始，用数学公式表述力和质量、加速度之间的关系，到建立万有引力定律，将质量、万有引力常数、距离关联在一起，至此，我们的物理学才能比较完美地解释两个铁球同时落地这个再简单不过的现象。

而计算机呢？按照现在机器学习的实践方法，给计算机看一千万次两个铁球同时落地的视频，计算机就能像伽利略、牛顿、爱因斯坦所做的一样，建立起力学理论体系，达到“知其然，也知其所以然”的目标吗？显然不能。

几十年前，计算机就曾帮助人类证明过一些数学问题，比如著名的“地图四色着色问题”，今天的人工智能程序也在学习科学家如何进行量子力学实验79。但这与根据实验现象发现物理学定律还不是一个层级的事情。至少，目前我们还看不出计算机有成为数学家、物理学家的可能。

常识

人的常识，是个极其有趣，又往往只可意会、不可言传的东西。

仍拿物理现象来说，懂得力学定律，当然可以用符合逻辑的方式，全面理解这个世界。但人类似乎生来就具有另一种更加神奇的能力，即便不借助逻辑和理论知识，也能完成某些相当成功的决策或推理。深度学习大师约书亚·本吉奥举例说：“即使两岁孩童也能理解直观的物理过程，比如丢出的物体会下落。人类并不需要有意识地知道任何物理学就能预测这些物理过程。但机器做不到这一点。”80

常识在中文中，有两个层面的意思：首先指的是一个心智健全的人应当具备的基本知识；其次指的是人类与生俱来的，无须特别学习就能具备的认知、理解和判断能力。我们在生活里经常会用“符合常识”或“违背常识”来判断一件事的对错与否，但在这一类判断中，我们几乎从来都无法说出为什么会这样判断。也就是说，我们每个人头脑中，都有一些几乎被所有人认可的，无须仔细思考就能直接使用的知识、经验或方法。

常识可以给人类带来直截了当的好处。比如，人人都知道两点之间直线最短，走路的时候为了省力气，能走直线是绝不会走弯路的。人们不用去学欧氏几何中的那条著名公理，也能在走路时达到省力效果。但同样的常识也会给人们带来困扰。比如我们乘飞机从北京飞往美国西海岸时，很多人都会盯着机舱内导航地图上的航迹不解地说，为什么要向北飞到北冰洋附近绕那么大个弯子呀。“两点之间直线最短”在地球表面，会变成“通过两点间的大圆弧最短”，而这一变化，并不在那些不熟悉航空、航海的人的常识范围之内。

那么，人工智能是不是也能像人类一样，不需要特别学习，就可以具备一些有关世界规律的基本知识，掌握一些不需要复杂思考就特别有效的逻辑规律，并在需要时快速应用呢？拿自动驾驶来说，计算机是靠学习已知路况积累经验的。当自动驾驶汽车遇到特别棘手、从来没见过的危险时，计算机能不能正确处理呢？也许，这时就需要一些类似常识的东西，比如设计出某种方法，让计算机知道，在危险来临时首先要确保乘车人与行人的安全，路况过于极端时可安全减速并靠边停车，等等。下围棋的Alpha Go里也有些可被称作常识的东西，比如，一块棋搭不出两个眼就是死棋，这个常识永远是Alpha Go需要优先考虑的东西。当然，无论是自动驾驶汽车，还是下围棋的Alpha Go，这里说的常识，更多的还只是一些预设规则，远未如人类所理解的“常识”那么丰富。

自我意识

很难说清到底什么是自我意识，但我们又总是说，机器只有具备了自我意识，才叫真的智能。2015年开始播出的科幻剧集《真实的人类》（Humans）中，机器人被截然分成了两大类：没有自我意识的和有自我意识的。

图34　《真实的人类》第2季剧照81

《真实的人类》中，没有自我意识的机器人按照人类设定的任务，帮助人类打理家务、修整花园、打扫街道、开采矿石、操作机器、建造房屋，工作之外的其他时间只会近乎发呆般坐在电源旁充电，或者跟其他机器人交换数据。这些没有自我意识的机器人与人类之间，基本属于工具和使用者之间的关系。

在电视剧集的设定中，没有自我意识的机器人可以被注入一段程序，从而被“唤醒”。注入程序后，这个机器人就一下子认识到了自己是这个世界上的一种“存在”，他或她就像初生的人类一样，开始用自己的思维和逻辑，探讨存在的意义，自己与人类以及自己与其他机器人间的关系……一旦认识到自我在这个世界中的位置，痛苦和烦恼也就随之而来。这些有自我意识的机器人立即面临着来自心理和社会双方面的巨大压力。他们的潜意识认为自己应该与人类处在平等的地位上，应当追求自我的解放和作为一个“人”的尊严、自由、价值……