單一樣本學習

單一樣本學習（one-shot learning），又稱單樣本學習，是機器學習和人工智慧中研究模型能否從極少標註數據中泛化的一類學習範式。其典型目標是在某個新類別、新概念或新任務只有一個帶標註樣本時，仍能對未見樣本作出分類、識別、匹配或生成。單一樣本學習通常不表示整個模型只用一個樣本從頭訓練，而是表示模型在既有先驗知識、預訓練表徵、遷移學習或元學習經驗的幫助下，在目標類別只有一個樣本時完成適應和判斷。

單一樣本學習是小樣本學習（few-shot learning）的特例。在常見的N-way K-shot分類任務中，模型需要在 N 個候選類別之間識別查詢樣本；當每個類別只有一個支持樣本時，即為 K=1 的單一樣本學習。若目標類別沒有任何樣本，通常稱為零樣本學習；若每類有少量多個樣本，則屬於小樣本學習。

## 背景

人類能夠憑藉有限經驗快速學習新概念，例如只看過一次陌生文字或物體後，仍能在新情境中識別相似實例。傳統監督學習長期依賴大量標註數據，在新類別、低資源語言、罕見疾病、罕見分子活性等數據稀缺場景中受到限制。單一樣本學習的基本目標是利用已有知識快速適應新任務，從而減少對大規模目標類別標註數據的依賴。

早期物體類別學習研究的核心結論是，視覺類別不必完全從零學習。物體類別可以表示為機率模型，新類別只有一個或少量圖像樣本時，仍可藉助既有類別中形成的先驗知識估計新類別模型。此後，單一樣本學習逐漸從機率模型擴展到深度學習、度量學習和元學習。2015年發表的手寫字符概念學習研究表明，模型若能利用組合性、因果結構和「學會學習」的機制，就可以從單個樣本中學習新字符，並在部分單樣本分類任務中達到接近人類的表現。

2010年代中後期，深度學習中的單一樣本學習形成了若干主要路線，包括孿生網路、匹配網路、原型網路、記憶增強神經網路和模型無關元學習等。這些方法的共同目標不是單純記憶一個樣本，而是學習可遷移的相似性度量、表示空間或快速適應機制，使模型面對未見類別時仍能泛化。

## 概念與任務設置

單一樣本分類通常由支持集（support set）和查詢集（query set）構成。支持集中每個候選類別只有一個帶標籤樣本，查詢集中包含待分類樣本；模型需要根據支持樣本與查詢樣本之間的關係，為查詢樣本分配類別。常見評測形式包括5-way 1-shot、20-way 1-shot等，其中「way」表示候選類別數，「shot」表示每類支持樣本數。

這種設置要求模型在訓練類別之外進行泛化。若模型只記憶訓練類別，便無法處理測試階段出現的新類別；有效的單一樣本學習模型需要從訓練任務中獲得類別無關的比較、匹配、組合或快速更新能力。因此，單一樣本學習與普通小數據訓練不同，其關鍵不只是樣本少，而是目標類別在測試階段通常是新的。

單一樣本學習與一次示例提示（one-shot prompting）存在聯繫，但二者並不相同。一次示例提示常見於大型語言模型和提示工程，指在提示中給出一個示例，使模型按示例格式完成任務；它主要依賴預訓練模型的上下文學習能力，不一定涉及模型參數更新。機器學習文獻中的單一樣本學習更常指分類、識別、匹配或生成任務中的低樣本泛化問題，可通過度量學習、元學習、遷移學習或生成模型實現。

## 方法

生成式和貝葉斯方法通過顯式建模樣本背後的生成過程來實現單樣本泛化。物體類別可以被視為帶參數的機率模型，新類別的模型參數可由舊類別的經驗形成先驗後再根據一個樣本更新。手寫字符概念學習則可把字符表示為筆畫、部件和組合規則的生成過程；這種表示不僅可用於分類，也可用於生成新的字符實例。

度量學習方法把樣本映射到嵌入空間，通過相似度或距離完成分類。孿生神經網路使用共享權重的雙分支結構分別處理兩個輸入，再判斷二者是否屬於同一類別，因而適合簽名驗證、人臉驗證和手寫字符識別等任務。匹配網路把支持集和查詢樣本共同輸入模型，通過注意力機制和嵌入函數在小支持集上進行最近鄰式匹配，不需要針對新類別重新訓練分類器。

原型網路把每個類別表示為嵌入空間中的原型向量，查詢樣本按其與各類別原型的距離分類。在單一樣本設置中，每個類別只有一個支持樣本，因此該樣本的嵌入本身就是類別原型。該方法的優勢在於結構簡單、歸納偏置明確，適合處理每類樣本極少的分類任務。

元學習方法的核心目標是「學會如何學習」。模型在大量相關任務中訓練，不是只學習一個固定分類器，而是學習適應新任務的機制。模型無關元學習把模型參數訓練到容易快速微調的位置，使模型在新任務中只需少量梯度更新和少量樣本即可取得較好泛化。記憶增強神經網路通過外部記憶快速寫入和檢索新樣本資訊，緩解傳統梯度更新在新任務上需要大量迭代的問題。

預訓練與遷移學習也是實際系統中常見的單樣本學習路線。模型先在大規模數據或相關任務上學習通用表徵，遇到目標類別時再通過最近鄰匹配、線性分類、微調或提示式推理完成適應。這一路線說明，「單一樣本」主要指目標類別只有一個樣本，並不意味著模型此前沒有利用過大規模訓練數據。

## 數據集與評測

Omniglot是單一樣本學習中最常用的數據集之一。該數據集包含50種書寫系統中的1,623個手寫字符類別，每個字符由20名不同書寫者書寫，並帶有筆畫坐標數據。其多類別、少樣本特徵適合構造5-way 1-shot、20-way 1-shot等任務。Omniglot推動了單一樣本分類研究的發展，但單純分類準確率並不能完全衡量人類式概念學習能力；更完整的評測還應包括生成、解析、組合和跨任務遷移。

miniImageNet是小樣本圖像分類的另一常見基準，源於ImageNet圖像類別的子集。與Omniglot相比，miniImageNet更接近自然圖像場景，類別內變化、背景干擾和視覺複雜度更高，因而常用於檢驗模型在自然圖像上的泛化能力。後續研究還使用tieredImageNet、CIFAR-FS、FC100、CUB等數據集，並通過跨數據集評測檢驗模型是否真正獲得可遷移表徵，而不是只適應單一基準。

低資源文字識別是單一樣本學習的重要評測場景。低資源語言往往缺乏大規模標註字符圖像，傳統深度學習文字識別方法難以直接依賴大量數據訓練。2021年出版的《Machine Vision Inspection Systems, Volume 2》收錄的字符識別研究把單一樣本學習定義為使用一個樣本進行學習和預測的範式，並採用膠囊網路與孿生網路處理低資源語言字符識別問題。該書章的實驗表明，膠囊式孿生網路能夠把已學字符知識遷移到未見字符，在若干n-way分類任務和僧伽羅語字符識別實驗中取得一定識別效果。

## 應用

單一樣本學習最常見的應用包括圖像識別、手寫字符識別、人臉驗證、簽名驗證和圖像檢索。這些任務的共同特點是新類別可能不斷出現，或每個新類別難以收集大量標註樣本。有效模型需要把舊類別中學到的視覺結構或相似性度量遷移到新類別上。

低資源語言文字識別也是重要應用方向。許多文字系統缺乏類似MNIST的大規模標註數據，單一樣本學習可減少對大量標註字符圖像的依賴，並通過遷移已有字符結構知識識別未見字符。

藥物發現是典型低數據場景。小分子藥物研究中，某些靶點或活性測定只有少量已知活性化合物，常規深度模型難以從有限數據中穩定學習。低數據藥物發現中的單一樣本學習可結合圖卷積網路、序列嵌入和距離度量學習，在少量分子活性數據下進行預測。

自然語言處理中的一次示例提示也體現了少樣本適應思想。大型語言模型可在提示中看到一個示例後完成類似任務，這類方法通常依賴預訓練模型的上下文學習能力。它與傳統單一樣本分類的技術路徑不同，但目標同樣是減少任務適應所需的示例數量。

## 局限

單一樣本學習的表現通常依賴強先驗、相關訓練任務或大規模預訓練。若訓練任務和目標任務差異較大，或唯一支持樣本不能代表類別內部變化，模型容易過擬合樣本的偶然特徵。標註噪聲、樣本質量、類別邊界模糊和查詢樣本背景變化都會顯著影響結果。

評測基準也可能高估模型能力。某些數據劃分和評測程序會降低任務難度，使分類準確率不能充分反映真正的人類式概念學習能力。單一樣本學習的核心挑戰不只是從一個樣本判斷類別，還包括在跨域、開放世界和動態類別環境中穩定獲得可解釋、可校準和可泛化的知識。