早在ChatGPT发布之前，业界就已经嗅到了大模型带来的变革。
去年10月14日，圣塔菲研究所(Santa Fe Institute)的教授Melanie Mitchell和David C. Krakauer在arXiv发布了一篇综述，全面调研了所有关于「大规模预训练语言模型是否可以理解语言」的相关争论，文中描述了「正方」和「反方」的论点，以及根据这些论点衍生的更广泛的智力科学的关键问题。
论文链接：https://arxiv.org/pdf/2210.13966.pdf
发表期刊：《美国科学院院报》(PNAS)
太长不看版：
支持「理解」的主要论点是大型语言模型能够完成许多似乎需要理解后才能完成的任务。
反对「理解」的主要论点是，以人类的角度来看，大型语言模型的理解力非常脆弱，比如无法理解prompt间的微妙变化;并且语言模型也没有现实世界的生活经验来验证他们的知识，多模态的语言模型可能会缓解这个问题。
最关键的问题在于，目前还没有人对「什么是理解」有一个可靠的定义，并且也不知道如何测试语言模型的理解能力，用于人类的测试不一定适用于测试大型语言模型的理解能力。
总之，大型语言模型能够理解语言，但可能是以一种不同于人类的理解方式。
研究人员认为，可以开发一种新的智力科学，深入研究不同的理解类型，找出不同理解模式的优势和局限性，同时整合不同理解形式产生的认知差异。
论文的第一作者Melanie Mitchell是Santa Fe研究所的教授，她于1990年博士毕业于密歇根大学，导师为侯世达(《哥德尔、艾舍尔、巴赫：集异璧之大成》的作者)和约翰霍兰德，她的主要研究方向为类比推理、复杂系统、遗传算法和细胞自动机。
到底什么叫做「理解」?
「何为理解」一直困扰着哲学家、认知科学家和教育家，研究人员经常以人类或其他动物作为「理解能力」的参照物。
直到最近，随着大规模人工智能系统的兴起，特别是大型语言模型(LLM)的出现，在人工智能界掀起了一场激烈的辩论，即现在是否可以说机器已经能够理解自然语言，从而理解语言所描述的物理和社会情况。
这不是一场单纯的学术辩论，机器理解世界的程度和方式对于人类能在多大程度上信任AI能够执行驾驶汽车、诊断疾病、照顾老人、教育儿童等任务，以便在人类有关的任务中采取有力且透明的行动。
目前的辩论表明，学术界在如何思考智能系统中的理解方面存在着一些分歧，特别是在依靠「统计相关性」和「因果机制」的心智模型(mental models)中，分歧更加明显。
不过，人工智能研究界对机器理解仍然达成了普遍共识，即，虽然人工智能系统在许多特定任务中表现出看似智能的行为，但它们并不像人类那样理解它们所处理的数据。
比如说，面部识别软件并不能理解面部是身体的一部分，也不理解面部表情在社会互动中的作用，更不能理解人类是如何以近乎无穷种方式来使用面部概念的。
同样，语音转文字和机器翻译程序也并不理解它们所处理的语言，自动驾驶系统也不理解司机和行人用来避免事故的微妙眼神接触或肢体语言的含义。
事实上，这些人工智能系统经常被提及的脆性(brittleness)，即不可预测的错误和缺乏稳健的泛化能力，是评估AI理解力的关键指标。
在过去的几年里，大型语言模型(LLMs)在人工智能领域的受众和影响力激增，也改变了一些人对机器理解语言前景的看法。
大型预训练模型，也可以叫做基础模型(Foundation Models)是具有数十亿到上万亿个参数(权重)的深度神经网络，在海量自然语言语料库(包括网络文本、在线图书等)上进行「预训练」后得到。
模型在训练期间的任务是预测输入句子中的缺失部分，所以这种方法也叫做「自监督学习」，由此产生的网络是一个复杂的统计模型，可以得到训练数据中的单词和短语之间是如何相互关联的。
这种模型可以用来生成自然语言，并为特定的自然语言任务进行微调，或者进一步训练以更好地匹配「用户意图」，不过对于非专业人士和科学家来说，语言模型到底如何完成这些任务的，仍然是个谜。
神经网络的内部运行原理在很大程度上是不透明的，即使是构建这些网络的研究人员对这种规模的系统的直觉也是有限的。
神经科学家Terrence Sejnowski这样描述LLMs的涌现能力(emergence)：
突破了某个阈值后，就好像外星人一下子出现了，可以用一种可怕的、人类交流的方式与我们交流。目前只有一件事是清楚的，大型语言模型并非人类，它们行为的某些方面似乎是智能的，但如果不是人类的智能，它们的智能的本质是什么?