大型语言模型 大型语言模型 大语言模型英語large language modelLLM是一种语言模型由具有许多参数通常数十亿个权重或更多的人工神经网络组成使用自监督学习或半监督学习对大量未标记文本进行训练大语言模型在年左右出现并在各种任务中表现出色 尽管这个术语没有正式的定义但它通常指的是参数数量在数十亿或更多数量级的深度学习模型大语言模型是通用的模型在广泛的任务中表现出色而不是针对一项特定任务例如情感分析命名实体识别或数学推理进行训练 尽管大语言模型仅在预测句子中的下一个单词等简单任务上接受过训练但发现具有足够训练和参数计数的神经语言模型可以捕获人类语言的大部分句法和语义 此外大语言模型还展示了相当多的关于世界的常识并且能够在训练期间记住大量事实 虽然 ChatGPT 为代表的大语言模型在生成类人文本方面表现出了卓越的能力但它们很容易继承和放大训练数据中存在的偏差这可能表现为对不同人口统计数据的歪曲表述或不公平待遇例如基于种族性别语言和文化群体的不同观点与态度