非科幻思考（第10/12页）

社会如何选择人的智力发展呢？我们常常强调生存竞争的重要性，但与生存竞争同样重要的是两种被选择的能力：理解他人心理的能力，以及灵活的心理适应性。

理解他人的能力，前面我们已经说过一些，这里再着重看一下它在人类社交中的作用。心理学中称其为“心理理论”，就是对他人心理做出的判断。小孩子一般到三四岁就能拥有这种能力，他们看到一个人出了家门又回去，能够猜想他是忘记了东西，想回去拿；若看到两个人闭着嘴不说话，会猜想他们是吵架了，正在生气。这种能力对人来说实在是太正常了，当我们看一篇公众号文章，看到明星吵架，我们会自然说出“一定是她太强势，他受不了”“她这么多年委屈自己必然有难言的苦衷”“这就是为了炒作”这样的猜想，每一种猜想都隐含着我们对他人心理、对这个世界的理解。有很多猜测是智慧洞察，但也有猜测是有害的捕风捉影，但不管怎么说，人人具有理解他人的能力，而这种能力对人工智能来说，是非常困难的能力。

心理理论有一项重要的应用，那就是判别其他人是敌是友。这是有关于人类生死存亡的关键问题，也是一个人内心最敏感的认知反应。在人群中，我们天然探测他人对自己的善意和敌意，在人群与人群之间，我们天然怀疑另一个群体与己方为敌。不能正确探测他人善意和敌意，会让自己落得孤家寡人。这种能力需要大量不同意图的样本，大量真实互动交往，以及善意恶意互动产生的反馈数据。

那什么是灵活的心理适应性呢？这是指人根据周围人和周围文化调整自己认知的能力。人的先天大脑功能都差不多，但是在不同文化中习得的后天认知相距甚远。根据代际研究，小孩子能够迅速脱离父母一辈的语言体系和信仰体系，融入他自己的周围文化，特殊情况下，儿童一代人可以形成一种与周围父辈截然不同的新一代文化。这种革新源于同辈群体参照。人类有不少心理特征与社会性相关，例如人群中的尴尬、内疚、嘲笑，就都与社会参照相关。人会非常关注社群中其他个体对自己的看法，而这种对他人意见的关注使得人类相互调整，相互适应，生成不同的代际文化。对人工智能来说，目前其调整和进化的主要参照是人类，还没有形成群体内互动参照，没有独立的文化调整。

人工智能在未来能否发展出类似人类的社会心理呢？首先，需要有大量个体互动。但正如动机一节所述，目前人工智能趋向于大型化、联网化，并没有足量多样性的个体互动。其次，即便有足量个体人工智能组成社群，也很难生成以主观好恶为基础的人类关系网络；人工智能对于其他成员的意图的推测，可以纯粹按照概率计算。但人类会根据自己的喜好，以及感知到的他人对自己的喜好厌恶，做出重大决策。机器没有理由如此听凭主观，完全可以根据互动个体的最佳概率策略行事。人类先感知到他人的善意或敌意，然后根据感知做出合作互惠或防御攻击的决策，而人工智能更多是计算客观理性概率。

换句话说，人类随时从他人身上获得主观好恶的数据，并依此数据做出人生重大判断。而人工智能对另一个人工智能的理解，基于程序语言，对他人的读取与人的感知差别很大，并没有人与人情感上的共鸣，因而社会心理也必然和人类不同。

综合上面的种种分析，人类的感知－情绪－情感－社交环节，都有太多生物化学和进化上的来源，未来的人工智能都不太会直接产生。除非我们刻意输入指令，否则它们不会效仿人类。我们可以想象未来通过数据和信息交流的人工智能社群，交流不存在好感与恶意，只是客观的信息沟通。在金融市场上，目前的人工智能交易程序已经在进行无数次的信息沟通，这里有策略，有竞争，但并不基于社交中的情感和压力。它们会不会伤人呢？有可能会，但肯定不是因为产生了基于荷尔蒙的羡慕嫉妒恨。

人工智能面临的最大难题是什么？

写到这里，可能有人会问：为什么非要让人工智能像人呢？

人工智能对人类世界没有感受情绪又怎样？人工智能自己掌握强大的算力和全新算法，可以发展得比人类更强大，又为什么要在意与人类交流？人类的爱恨情仇属于进化的残留，既原始又低效，人工智能为什么要学习呢？它们完全可以不像人但也很强大。

这样想也完全没问题，而且是很有可能的：它们发展成跟我们不一样的强大智能。我们就假设人工智能未来不屑于获得人类世界常识，也不关心人类的爱恨情仇，自顾自发展强大，那么它是不是就没有任何问题了？

也不是的。

即便仅考虑它自己，也仍然需要面临内部调控问题。它可以不建立对世界的统一描述，但它至少需要对自己的内部思维有统一调控。

什么叫内部自我调控呢？

实际上，任何人的心智都不是单一的，每个人的自我都是许多模块、功能和目标的集合。自我就是对所有模块的综合统领。前面讲了情绪情感、欲望动机、对他人的感知同情，这里探讨了高级认知的不同层次。而所有这些，都是人这个“大企业”的不同部门，人脑前额叶的功能就是统领好这些部门。

目前的人工智能一般都是单一功能的，下围棋、开汽车或者做投资，不同的人工智能有不一样的网络结构，没办法多功能。如果停留于此，那么未来人工智能就是强大的专业工具，不可能成为某种具有特性的新智慧种族。几乎可以肯定，未来人工智能的发展肯定不会停留于单一功能，多功能人工智能的开发，也一定会取得进展。目前，克服前述“遗忘灾难”的办法就是发展多个网络，再进行系统整合。

一旦同一人工智能开始有多重能力，就会生成多种目标，这些目标不可能同时去追求，就会涉及目标之间的关系和冲突。不同功能模块之间的能力和需求可能不一样，例如追求围棋取胜的功能模块需要不断和自己对弈，而追求语言沟通的模块却要一直与更多人对话。最终需要有协调控制机制，让所有模块和谐相处。

无论人工智能是否在意人类，在它们自身心智系统复杂化的过程中，都需要自我调控。不能自我调控的智能会很容易陷入僵化或疯狂。单一功能的人工智能只需要下围棋，不需要思考“我是否要下围棋”，而一旦它自身的心智系统包含了很多个功能模块，就需要在所有目标之间做出选择。目前人工智能还由程序员进行目标抉择，但早晚有一天，它们需要具有抉择能力。