大型語言模型，也稱大語言模型，是由具有大量引數（通常數十億個權重或更多）的人工神經網路組成的一類語言模型，使用自監督學習或半監督學習對大量未標記文字進行訓練。大語言模型在 2018 年左右出現，並在各種任務中表現出色。 儘管這個術語沒有正式的定義，但它通常指的是引數數量在數十億或更多數量級的深度學習模型。大語言模型是通用模型，在廣泛的任務中表現出色，而不是針對一項特定任務（例如情感分析、命名實體識別或數學推理）進行訓練。 儘管大語言模型僅在預測句子中的下一個單詞等簡單任務上接受過訓練，但發現具有足夠訓練和引數計數的神經語言模型可以捕獲人類語言的大部分句法和語義。 此外大語言模型還展示了相當多的關於世界的常識，並且能夠在訓練期間 記住 大量事實。 雖然 ChatGPT 等大語言模型在生成類人文字方面表現出了卓越的能力，但它們很容易繼承和放大訓練資料中存在的偏差。這可能表現為對不同人口統計資料的歪曲表述或不公平待遇，例如基於種族、性別、語言和文化群體的不同觀點與態度。 歷史 20 世紀 90 年代，開創了統計語言建模。2001 年，一個基於 3 億個單詞進行訓練的平滑 ngram 模型達到了當時最優的困惑度。 在 21 世紀，隨著網際網路的普及，一些研究人員構建了網際網路規模的語言資料集（網路語料庫），並在此基礎上訓練統計語言模型。 2009 年，在大多數語言處理任務中，統計語言模型優於符號語言模型，因為它們可以有效地消化大型資料集。 在 2012 年左右神經網路在影像處理領域佔據主導地位後，它們也被應用於語言建模。谷歌於 2016 年將其翻譯服務轉換為神經機器翻譯。就像在 transformer 出現之前的語言模型一樣，它由 seq2seq 深度 LSTM 網路完成。 在 2017 年 NeurIPS 會議上，谷歌研究人員在他們的里程碑式論文《Attention Is All You Need》中介紹了 Transformer 架構。這篇論文的目標是改進 2014 年的 seq2seq 技術， 並且主要基於 Bahdanau 等人在 2014 年開發的注意力機制。 2018 年，BERT 被引入後迅速變得 無處不在。 雖然原始的 Transformer 同時具有編碼器和解碼器塊，但 BERT 是一個僅編碼器的模型。隨著僅解碼器模型（如 GPT）透過提示解決任務的能力迅速提高，BERT 在學術和研究中的使用率在 2023 年開始下降。 僅解碼器模型 GPT1 於 2018 年推出，但 2019 年推出的 GPT2 才引起了廣泛關注，因為 OpenAI 最初認為它過於強大，無法公開發布，因為擔心被惡意使用。 2020 年的 GPT3 則更進一步，自 2024 年起僅透過 API 提供，不提供下載模型以在本地執行。2022 年面向消費者的基於瀏覽器的 ChatGPT 吸引了普通民眾的想象力，並引起了一些媒體炒作和線上熱議。 2023 年的 GPT4 因其準確性的提高而受到稱讚，並因其多模態功能而被稱為 聖盃。 OpenAI 沒有透露 GPT4 的高階架構和引數數量。ChatGPT 的釋出導致計算機科學的幾個研究子領域的 LLM 使用率上升，包括機器人技術、軟體工程和一些有社會影響的工作。 競爭語言模型在很大程度上試圖與 GPT 系列相提並論，至少在引數數量方面是這樣。 自 2022 年以來，開源模型越來越受歡迎，尤其是最初的 BLOOM 和 LLaMA，儘管兩者在使用領域都有限制。Mistral AI 的模型 Mistral 7B 和 Mixtral 8x7b 擁有更寬鬆的 Apache 許可證。截至 2024 年 6 月，根據 LMSYS Chatbot Arena 排行榜，Llama 3 的 700 億引數模型的指令微調變體是最強大的開放 LLM，強於 GPT35 但不如 GPT4。 自 2023 年以來，許多 LLM 已被訓練為多模態，能夠處理或生成其他型別的資料，例如影像或音訊。這些 LLM 也稱為大型多模態模型 LMM。 截至 2024 年，最大、功能最強大的模型均基於 Transformer 架構。最近的一些實現基於其他架構，例如迴圈神經網路變體和 （狀態空間模型） 訓練架構 指令調優 指令調優（Instruction Tuning）是一種微調技術，透過在包含（指令，輸出）對的資料集上以監督學習方式進一步訓練大型語言模型，使其更好地理解和執行人類指令。這種方法彌合了大型語言模型的下一個詞預測目標與使用者希望模型遵循人類指令之間的差距。 基於人類反饋的強化學習 近端策略最佳化等基於人類反饋的強化學習演算法被廣泛用於進一步微調一個大語言模型。 偏差和侷限性 大語言模型偏差和侷限性是自然語言處理（NLP）領域正在進行的研究。雖然大語言模型在生成類人文字方面表現出了卓越的能力，但他們很容易繼承和放大訓練資料中存在的偏見。這可能表現為對不同人口統計資料的不公平待遇，例如基於種族、性別、語言和文化群體的統計資料。此外，這些模型通常面臨事實準確性的限制。研究和緩解這些偏見和限制對於人工智慧在不同社會和專業領域的道德發展和應用至關重要。 幻覺 幻覺指的是大語言模型輸出與客觀事實不符的內容，其可能由模型本身或使用者引導產生。 語言偏差 語言偏差是指與語言相關的一種統計抽樣偏差，也就是說在資訊抽樣中，查詢語言導致的系統偏差會使其無法準確呈現資料中的各種不同主題和觀點。當前的大型語言模型主要是根據英語資料進行訓練的，因此通常將英語觀點視為真實可靠的觀點，而系統地將非英語觀點視為不相關、錯誤或噪音。當被問到諸如 什麼是自由主義？ 之類的政治意識形態的問題時，ChatGPT 以英美角度為中心，而對例如說越南的 反對國家干預個人和經濟生活 與中國的 限制政府權力 等視而不見。同樣，回覆中也沒有日本、韓國、法國和德國語料庫中的主流政治觀點。 性別偏差 性別偏差是指這些模型產生的結果傾向於對一種性別產生不公平的偏見。這種偏差通常源於訓練這些模型的資料。例如，大型語言模型通常根據傳統的性別規範來分配角色和特徵；它可能會將護士或秘書主要與女性聯絡起來，將工程師或執行長與男性聯絡起來。 政治偏差 政治偏差是指算法系統地傾向於某些政治觀點、意識形態或結果，也可能表現出政治偏見。由於訓練資料包含廣泛的政治觀點和覆蓋範圍，因此模型可能會生成傾向於特定政治意識形態或觀點的響應，具體取決於資料中這些觀點的普遍程度。 文化偏差 文化偏見是指大語言模型對特定的文化實踐、信仰或傳統持有偏見，由於受到訓練資料中文化資訊的不均衡、誤導性或歧視性影響。例如，若模型的訓練資料中某種文化的觀點被過度代表，模型就繼承這種偏差形成一定的偏見。 地域偏差 地域偏差是指大語言模型根據地理位置或國籍對人們的行為、習慣或特徵做出偏見性的假設。這種偏差可能導致對特定地區的知識、成就、問題、潛力等方面的誤解、低估或過度放大。 年齡偏差 年齡偏差是指大語言模型在處理或生成與年齡相關的話題時，根據年齡做出刻板印象化的假設，例如認為年長者不懂技術或年輕人缺乏責任感。 職業偏差 職業偏差是指大語言模型對特定職業持有刻板印象，將某些職業視為比其他職業更有價值或重要，或對特定職業的人群做出性格或能力上的假設。 大型語言模型列表 GPT（OpenAI） GPT3（OpenAI） GPT4（OpenAI） LaMDA（谷歌） Gemini（谷歌） Claude（Anthropic） LLaMA（Meta） Titan（亞馬遜） Mistral（Mistral AI） BLOOM（Hugging Face） 文心一言（百度） 通義千問（阿里雲） 混元（騰訊） 盤古（華為） 星火（科大訊飛） 商量 SenseChat（商湯科技） 百川（百川智慧） 豆包（抖音） GLM（清華智譜） 參見 聊天機器人 語言模型 GPT4 （OpenAI LLaMA（Meta） LaMDA 谷歌 Gemini 谷歌 外部連線 Open LLM Leaderboard（開放 LLM 排行榜旨在跟蹤、排名和評估開放 LLM 和聊天機器人） 參考資料 Category 大型語言模型 Category 深度學習 Category 人工智慧應用 Category 自然語言處理