大型语言模型

大语言模型 () 是一种语言模型，由具有许多参数（通常数十亿个权重或更多）的人工神经网络组成，使用自监督学习或半监督学习对大量未标记文本进行训练。大型语言模型在2018年左右出现，并在各种任务中表现出色。 

尽管这个术语没有正式的定义，但它通常指的是参数数量在数十亿或更多数量级的深度学习模型。大型语言模型是通用的模型，在广泛的任务中表现出色，而不是针对一项特定任务（例如情感分析、命名实体识别或数学推理）进行训练。

尽管在预测句子中的下一个单词等简单任务上接受过训练，但发现具有足够训练和参数计数的神经语言模型可以捕获人类语言的大部分句法和语义。 此外大型语言模型展示了相当多的关于世界的常识，并且能够在训练期间“记住”大量事实。

大型语言模型列表

GPT
LLaMA（Meta）
LaMDA（Google） 

 baichuan-7B———百川智能公司发布中英文开源可免费商用的大模型 - 基于标准的Transformer结构，采用了类似LLaMA的模型设计 。

參見 
聊天機器人
對話程式語言模型

外部连接 
  Open LLM Leaderboard（开放LLM排行榜旨在跟踪、排名和评估开放LLM和聊天机器人）

参考资料 

大型语言模型
深度學習