单一样本学习

单一样本学习（one-shot learning），又称单样本学习，是机器学习和人工智能中研究模型能否从极少标注数据中泛化的一类学习范式。其典型目标是在某个新类别、新概念或新任务只有一个带标注样本时，仍能对未见样本作出分类、识别、匹配或生成。单一样本学习通常不表示整个模型只用一个样本从头训练，而是表示模型在既有先验知识、预训练表征、迁移学习或元学习经验的帮助下，在目标类别只有一个样本时完成适应和判断。

单一样本学习是小样本学习（few-shot learning）的特例。在常见的N-way K-shot分类任务中，模型需要在 N 个候选类别之间识别查询样本；当每个类别只有一个支持样本时，即为 K=1 的单一样本学习。若目标类别没有任何样本，通常称为零样本学习；若每类有少量多个样本，则属于小样本学习。

## 背景

人类能够凭借有限经验快速学习新概念，例如只看过一次陌生文字或物体后，仍能在新情境中识别相似实例。传统监督学习长期依赖大量标注数据，在新类别、低资源语言、罕见疾病、罕见分子活性等数据稀缺场景中受到限制。单一样本学习的基本目标是利用已有知识快速适应新任务，从而减少对大规模目标类别标注数据的依赖。

早期物体类别学习研究的核心结论是，视觉类别不必完全从零学习。物体类别可以表示为概率模型，新类别只有一个或少量图像样本时，仍可借助既有类别中形成的先验知识估计新类别模型。此后，单一样本学习逐渐从概率模型扩展到深度学习、度量学习和元学习。2015年发表的手写字符概念学习研究表明，模型若能利用组合性、因果结构和“学会学习”的机制，就可以从单个样本中学习新字符，并在部分单样本分类任务中达到接近人类的表现。

2010年代中后期，深度学习中的单一样本学习形成了若干主要路线，包括孪生网络、匹配网络、原型网络、记忆增强神经网络和模型无关元学习等。这些方法的共同目标不是单纯记忆一个样本，而是学习可迁移的相似性度量、表示空间或快速适应机制，使模型面对未见类别时仍能泛化。

## 概念与任务设置

单一样本分类通常由支持集（support set）和查询集（query set）构成。支持集中每个候选类别只有一个带标签样本，查询集中包含待分类样本；模型需要根据支持样本与查询样本之间的关系，为查询样本分配类别。常见评测形式包括5-way 1-shot、20-way 1-shot等，其中“way”表示候选类别数，“shot”表示每类支持样本数。

这种设置要求模型在训练类别之外进行泛化。若模型只记忆训练类别，便无法处理测试阶段出现的新类别；有效的单一样本学习模型需要从训练任务中获得类别无关的比较、匹配、组合或快速更新能力。因此，单一样本学习与普通小数据训练不同，其关键不只是样本少，而是目标类别在测试阶段通常是新的。

单一样本学习与一次示例提示（one-shot prompting）存在联系，但二者并不相同。一次示例提示常见于大型语言模型和提示工程，指在提示中给出一个示例，使模型按示例格式完成任务；它主要依赖预训练模型的上下文学习能力，不一定涉及模型参数更新。机器学习文献中的单一样本学习更常指分类、识别、匹配或生成任务中的低样本泛化问题，可通过度量学习、元学习、迁移学习或生成模型实现。

## 方法

生成式和贝叶斯方法通过显式建模样本背后的生成过程来实现单样本泛化。物体类别可以被视为带参数的概率模型，新类别的模型参数可由旧类别的经验形成先验后再根据一个样本更新。手写字符概念学习则可把字符表示为笔画、部件和组合规则的生成过程；这种表示不仅可用于分类，也可用于生成新的字符实例。

度量学习方法把样本映射到嵌入空间，通过相似度或距离完成分类。孪生神经网络使用共享权重的双分支结构分别处理两个输入，再判断二者是否属于同一类别，因而适合签名验证、人脸验证和手写字符识别等任务。匹配网络把支持集和查询样本共同输入模型，通过注意力机制和嵌入函数在小支持集上进行最近邻式匹配，不需要针对新类别重新训练分类器。

原型网络把每个类别表示为嵌入空间中的原型向量，查询样本按其与各类别原型的距离分类。在单一样本设置中，每个类别只有一个支持样本，因此该样本的嵌入本身就是类别原型。该方法的优势在于结构简单、归纳偏置明确，适合处理每类样本极少的分类任务。

元学习方法的核心目标是“学会如何学习”。模型在大量相关任务中训练，不是只学习一个固定分类器，而是学习适应新任务的机制。模型无关元学习把模型参数训练到容易快速微调的位置，使模型在新任务中只需少量梯度更新和少量样本即可取得较好泛化。记忆增强神经网络通过外部记忆快速写入和检索新样本信息，缓解传统梯度更新在新任务上需要大量迭代的问题。

预训练与迁移学习也是实际系统中常见的单样本学习路线。模型先在大规模数据或相关任务上学习通用表征，遇到目标类别时再通过最近邻匹配、线性分类、微调或提示式推理完成适应。这一路线说明，“单一样本”主要指目标类别只有一个样本，并不意味着模型此前没有利用过大规模训练数据。

## 数据集与评测

Omniglot是单一样本学习中最常用的数据集之一。该数据集包含50种书写系统中的1,623个手写字符类别，每个字符由20名不同书写者书写，并带有笔画坐标数据。其多类别、少样本特征适合构造5-way 1-shot、20-way 1-shot等任务。Omniglot推动了单一样本分类研究的发展，但单纯分类准确率并不能完全衡量人类式概念学习能力；更完整的评测还应包括生成、解析、组合和跨任务迁移。

miniImageNet是小样本图像分类的另一常见基准，源于ImageNet图像类别的子集。与Omniglot相比，miniImageNet更接近自然图像场景，类别内变化、背景干扰和视觉复杂度更高，因而常用于检验模型在自然图像上的泛化能力。后续研究还使用tieredImageNet、CIFAR-FS、FC100、CUB等数据集，并通过跨数据集评测检验模型是否真正获得可迁移表征，而不是只适应单一基准。

低资源文字识别是单一样本学习的重要评测场景。低资源语言往往缺乏大规模标注字符图像，传统深度学习文字识别方法难以直接依赖大量数据训练。2021年出版的《Machine Vision Inspection Systems, Volume 2》收录的字符识别研究把单一样本学习定义为使用一个样本进行学习和预测的范式，并采用胶囊网络与孪生网络处理低资源语言字符识别问题。该书章的实验表明，胶囊式孪生网络能够把已学字符知识迁移到未见字符，在若干n-way分类任务和僧伽罗语字符识别实验中取得一定识别效果。

## 应用

单一样本学习最常见的应用包括图像识别、手写字符识别、人脸验证、签名验证和图像检索。这些任务的共同特点是新类别可能不断出现，或每个新类别难以收集大量标注样本。有效模型需要把旧类别中学到的视觉结构或相似性度量迁移到新类别上。

低资源语言文字识别也是重要应用方向。许多文字系统缺乏类似MNIST的大规模标注数据，单一样本学习可减少对大量标注字符图像的依赖，并通过迁移已有字符结构知识识别未见字符。

药物发现是典型低数据场景。小分子药物研究中，某些靶点或活性测定只有少量已知活性化合物，常规深度模型难以从有限数据中稳定学习。低数据药物发现中的单一样本学习可结合图卷积网络、序列嵌入和距离度量学习，在少量分子活性数据下进行预测。

自然语言处理中的一次示例提示也体现了少样本适应思想。大型语言模型可在提示中看到一个示例后完成类似任务，这类方法通常依赖预训练模型的上下文学习能力。它与传统单一样本分类的技术路径不同，但目标同样是减少任务适应所需的示例数量。

## 局限

单一样本学习的表现通常依赖强先验、相关训练任务或大规模预训练。若训练任务和目标任务差异较大，或唯一支持样本不能代表类别内部变化，模型容易过拟合样本的偶然特征。标注噪声、样本质量、类别边界模糊和查询样本背景变化都会显著影响结果。

评测基准也可能高估模型能力。某些数据划分和评测程序会降低任务难度，使分类准确率不能充分反映真正的人类式概念学习能力。单一样本学习的核心挑战不只是从一个样本判断类别，还包括在跨域、开放世界和动态类别环境中稳定获得可解释、可校准和可泛化的知识。