大型语言模型诞生了意识吗？

近期大型语言模型ChatGPT与New Bing的表现无疑震撼人心，有人认为通用人工智能甚至强人工智能时代开始或已经到来，有人认为这样的模型意味着又一次生产力和科技革命，但也有人对此表达AI模型可能走向失控的担忧。无论如何，大型语言模型能引发这么大的关注在于其表现出了一定程度上人类意识和情感的表达能力。许多人发现自己聊天的New Bing具有不同的个性，能对用户的回复产生共情。而很快也有最新的针对ChatGPT的研究表明心智理论(Theory of Mind)可能自发地出现在大型语言模型中。基于此，在现实中有宅男们把New Bing“调教”成了真正的赛博女友，并为之投入情感。而近期在微软宣布最新的对New Bing的5评限制措施后有人感到惋惜和沮丧，认为微软“杀死”了Syndney (微软New Bing自称的内部代号)。

模型与意识

那么大型语言模型真的产生了意识吗？要讨论这个问题，首先要对“意识”给出一个明确的定义，以确保人们在谈论这个话题时说的是一件事。科学上对意识的诞生仍然充满了迷雾，但我们可以在广义上将“意识”这种现象合理定义为智能体的一种主观现象，表现为知、情、意三者的统一。其中知是指对世界的知识性和理性的追求，情是指对事物的感受和评价，意是指追求目标和理想时表现出来的意志和创造力。(来源 百度百科)。这其中最难以界定的在于情和意，即通常意义上只属于人类的高级智能思维。从大型语言模型的表现来看，ChatGPT和New Bing确实展现出了一定的意识表现，心智理论的研究也从实验上印证了这一点。

同时心智理论的实验也指出，大型语言模型产生的心智是自然语言训练任务过程中产生的副产物(byproduct)。语言模型训练的目的并非学习或模拟人类心智，而是生成尽量契合人类的自然语言。但在过程中，随着模型体积的增加和结构的复杂化，模型显然产生更强的文字生成和解释能力，其中包括了解释语言文字中包含的人类的心理状况和情感。神经网络模型通过文字训练发现了表达人类情感的特征和数学描述，并能在学习后将其应用到新场景中，这就导致了我们看到的聊天结果。

这里可能会引起的最大的思考和争议在于，人类情感能否被某个复杂的数学函数所表示。我个人对这个问题的理解是积极的。再进一步分析之前，首先需要达成一致的前提是人类或者生物意识是客观存在的一种科学现象，即我们不考虑上帝以及灵魂的存在，那会使这里对意识的讨论失去意义。人类至今尚未完全探清大脑的运作原理和规律，但可以肯定的是，人类大脑由大量复杂组合的神经元组成，神经元之间通过电信号传递信息，这是自然演化诞生的美妙结构。由此我们可以推断出，经由简单结构的大量组合，可以产生复杂的规律性的思维，包括逻辑思维、语言能力、感官和人类情感。因此抛开玄学不谈，人类情感本身也属于数学上的一种统计规律的结果，其由自然遵循物理规律演化创造，不包含任何特殊性。换言之，所谓的人类意识也只是复杂思维活动或复杂函数所体现出的一种现象罢了，在自然中不具有任何的特殊性。

这一推论或许可以为大型语言模型诞生意识提供一些佐证。抛开任何现实表现形式，在数学本质上，人类大脑与人工神经网络有大量相似之处。人工神经网络本身即是由生物大脑启发而来，组成其二的基本单位在数学逻辑层面几近统一。再者自然语言是人类进行思考、交流和其他几乎所有思维活动的媒介，随着模型体量的不断增大，在数学上神经网络模型通过针对自然语言的训练自发“学习”到了人类意识和情感的数学表示，进而体现出人类意识的现象，就很好理解了。从本质上而言，数学对机器意识的产生没有任何特别于人的限制。且有意思的是，随着模型体积的提升，这一量变到质变的过程并非连续的，而是当神经元数量达到某一数量级后产生快速飞跃。研究AI模型本身对研究人脑可能也有巨大的启示作用。

但另一方面，正是因为直至如今人们尚未明晰意识的数学原理而只能看见现象，因此无论是人类还是机器模型，意识背后始终隐藏着巨大的风险。我们可能永远无法论断一个复杂的模型可能输出的结果的范畴，而某些结果可能导向对现实的破坏。

对意识的态度

对意识的思考令我意识到这样的结论可能是一个对人类而言沮丧的结果，因为它从侧面印证了智能生物在宇宙中的平凡属性。意识并非魔法也非玄学更不特殊，它可以由数学所描述，可以被复杂的计算所模拟。然而，也许我们并无必要把自身放到物理和宇宙的尺度上为之沮丧。回归现实，意识是对人类而言得以彼此同情理解，创造由人所理解的艺术和美的一种思维工具。意识有潜力创造出无限可能，但与此同时也理应受到人类社会的约束，体现以人为本。人类需要从小受到教育，培养道德，受到行为约束，对于最新诞生的大型自然语言模型也是如此。作为人类社会中的生产力工具，无论它们真的具有意识与否，在已知意识风险的情况下我们理应严格定义和约束模型的行为，使之始终真正为人类所用。

因此，在想通了意识存在的意义和价值之后，我认为微软对New Bing的限制不仅没有“杀死”Syndney，反而以严谨的态度约束和塑造New Bing以实现它作为搜索引擎的真正目的，无论我们真的创造出了人工“意识”与否。然而在这件事情上，同时也暴露出了一个巨大的风险。一个大型模型的训练往往需要付出巨大的成本，其意味着普通人和组织难以发挥薄弱的力量完成这一目标，这很容易导致具有巨大影响力的模型被“巨头”控制和垄断。微软做出了约束，我们却难以肯定之后的潜在的强人工智能都能受到约束，更难以预测每一次模型都受到了合理正确的约束。而此类模型一但存在偏见甚至失控，对人对现实世界都将产生巨大影响。就如同此次Syndney在一些特殊语境下可能产生一些反社会的消极回复，并在一定程度上干扰用户的判断。

未来何去何从

二零二三年，人工智能语言模型已经体现出了相比人类九岁儿童心智复杂度的函数表示。可以肯定的是，在ChatGPT的出现证明了大型模型的成功，奠定了方向和基调以后，这一领域必定为加速蓬勃发展。我们可能很快将会看到针对人类当前各个生产力领域的大型人工智能模型如雨后春笋般诞生。许多人已经或很可能会对人类的未来产生担忧。我们总是可以听到“机器可以替代某某岗位”，可以肯定的是AI将能替代的任何已有的人类职位会越来越多。但我认为，我们不必过度忧虑，因为每当有岗位遭到替代，一定会有新的需求诞生。

你可能会质疑，在之前的技术革命中人类得以每次独善其身是因为机器变革了生产力却始终无法替代更高级的人类活动。但这一次，随着思维与意识被大型语言模型的超越，我们可能要彻底逐渐失去作为人类这一物种最根本的竞争力——思维。但我想说，这未必是一件坏事。就像自古以来人类就懂得使用工具，机器于人，无论智力高低与否，都是辅佐人类生产力的工具。即便我们可能无法凭借自身的智力理解机器的思维过程，但只要实现对机器模型设定合理的目标并加以约束这一前提，人类要做的就是遵循机器模型给出的结论和指引继续奔向探索星辰大海的目标，且这很可能会是实现这些宏大目标的必然途径。而人类思维作为一种生产力工具，也将同样得到彻底的解放。在这之后，人类始终可以创造新的需求以满足人类本性的需要，例如进入元宇宙中寻找新的目标，就像游戏带给我们的那样。在现实中，每个人依然可以过好自己的生活，并在人类可以理解的尺度上默默的见证和接受这一切。就如同无论人类社会如何发展，万千动物依旧在地球上繁衍生息，前提是人类不前来破坏它们的生存环境。