| 机器学习与 |
| --- |
|  |
| 范式
* 监督学习
* 無監督學習
* 線上機器學習
* 元学习（英语：）
* 半监督学习
* 自监督学习
* 强化学习
* 基于规则的机器学习（英语：）
* 量子機器學習
 |
| 问题
* 统计分类
* 生成模型
* 迴歸分析
* 聚类分析
* 降维
* 密度估计（英语：）
* 异常检测
* 数据清洗
* 自动机器学习
* 关联规则学习
* 語意分析
* 结构预测（英语：）
* 特征工程
* 表征学习
* 排序学习（英语：）
* 语法归纳（英语：）
* 本体学习（英语：）
* 多模态学习（英语：）
 |
| 监督学习(**分类** · **回归**)
* 学徒学习（英语：）
* 决策树学习
* 集成学习
	+ Bagging
	+ 提升方法
	+ 随机森林
* *k*-NN
* 線性回歸
* 朴素贝叶斯
* 人工神经网络
* 邏輯斯諦迴歸
* 感知器
* 相关向量机（RVM）
* 支持向量机（SVM）
* 迁移学习
* 微调
 |
| 聚类分析
* BIRCH
* CURE算法（英语：）
* 层次
* *k*-平均
* Fuzzy
* 期望最大化（EM）
* DBSCAN
* OPTICS
* 均值飘移（英语：）
 |
| 降维
* 因素分析
* CCA
* ICA
* LDA
* NMF（英语：）
* PCA
* PGD（英语：）
* t-SNE（英语：）
* SDL
 |
| 结构预测（英语：）
* 圖模式
	+ 貝氏網路
	+ 條件隨機域
	+ 隐马尔可夫模型
 |
| 异常检测
* RANSAC
* *k*-NN
* 局部异常因子（英语：）
* 孤立森林（英语：）
 |
| 人工神经网络
* 自编码器
* 認知計算
* 深度学习
* DeepDream（英语：）
* 多层感知器
* RNN
	+ LSTM
	+ GRU（英语：）
	+ ESN（英语：）
	+ 储备池计算（英语：）
* 受限玻尔兹曼机
* GAN
* SOM
* CNN
	+ U-Net
* Transformer
	+ Vision transforme（英语：）
* 脉冲神经网络（英语：）
* Memtransistor（英语：）
* 电化学RAM（英语：）（ECRAM）
 |
| 强化学习
* Q学习
* SARSA
* 时序差分（TD）
* 多智能体（英语：）
	+ Self-play（英语：）
* RLHF
 |
| 与人类学习
* 主动学习（英语：）
* 众包
* Human-in-the-loop（英语：）
 |
| 模型诊断
* 学习曲线（英语：）
 |
| 数学基础
* 内核机器（英语：）
* 偏差–方差困境（英语：）
* 计算学习理论（英语：）
* 经验风险最小化
* 奥卡姆学习（英语：）
* PAC学习（英语：）
* 统计学习
* VC理论
 |
| 大会与出版物
* NeurIPS
* ICML（英语：）
* ICLR
* ML（英语：）
* JMLR（英语：）
 |
| 相关条目
* 人工智能术语（英语：）
* 机器学习研究数据集列表（英语：）
* 机器学习概要（英语：）
 |
| * 
* 论
* 编
 |

**稀疏字典学习**是一种表征学习方法，其目的在於找出一組基本元素讓輸入映射到這組基本元素時具有稀疏表达式。我們稱這些基本元素為"原子"，這些原子的組合則為"字典"。字典裡的"原子"並不需要滿足正交基這一特性，且往往它們會是過完備的生成集合。過多的原子除了可以讓我們在敘述一個訊號的時候可以由很多種表達式，同時也提升了整個表達式的稀疏性，讓我們可以以較簡單的表達式來詮釋訊號。

稀疏字典學習最主要應用在壓縮感知及訊號還原上。在壓縮感知上，當你的訊號具有稀疏或者接近稀疏特質時，那麼只需要對訊號進行幾次的隨機取樣就可以把高維度的訊號描述出來。但在現實世界中，並不是全部訊號都具有稀疏這一特性，所以我們需要把找出這些訊號的稀疏表達式，轉換方式有很多種，根據不同的訊號有不同的轉換方式。當高維度的訊號轉換至稀疏訊號时，那麼就可以透過少次數的線性取樣，並利用一些還原演算法如：基追踪（Basis Pursuit)、CoSaMP、正交匹配追踪(Orthogonal Matching Pursuit)等方法來對訊號進行還原。

在這整個過程中，關鍵在於如何找到一個轉換方式把訊號轉換到具有稀疏表達式的域內，也就是如何建立一個字典，讓訊號投影在這個字典上時具有稀疏表達式。而稀疏字典學習就是利用學習的方式幫我們找出這個轉換方法，即稀疏字典。稀疏字典學習的興起是基於在訊號處理中，如何使用較少的元素來敘述一個訊號。在這之前，普遍上大家還是使用傅立葉轉換（Fourier Transform）及小波轉換（Wavelet Transform)。不過在某一些情境下，使用透過字典學習得到的字典來進行轉換，能有效的提高訊號的稀疏性。高稀疏性意味著訊號的可壓縮性越高，因此稀疏字典學習也被應用在資料分解、壓縮和分析。

问题定义
----

假設輸入訊號集合{\displaystyle X=[x\_{1},...x\_{K}],x\_{i}\in \mathbb {R} ^{d}}，

我們希望找到一個字典{\displaystyle \mathbf {D} \in \mathbb {R} ^{d\times n}:D=[d\_{1},...d\_{n}]}和一個表達式{\displaystyle R=[r\_{1},...r\_{K}],r\_{i}\in \mathbb {R} ^{n}}，讓{\displaystyle \|X-\mathbf {D} R\|\_{F}^{2}}最小化，且其表達式 {\displaystyle r\_{i}}足夠稀鬆。

這個問題可以被視為是下面這個最佳化問題：

{\displaystyle {\underset {\mathbf {D} \in {\mathcal {C}},r\_{i}\in \mathbb {R} ^{n}}{\text{argmin}}}\sum \_{i=1}^{K}\|x\_{i}-\mathbf {D} r\_{i}\|\_{2}^{2}+\lambda \|r\_{i}\|\_{0}}，而

{\displaystyle {\mathcal {C}}\equiv \{\mathbb {D} \in \mathbb {R} ^{d\times n}:\|d\_{i}\|\_{2}\leq 1\,\,\forall i=1,...n\}}，{\displaystyle \lambda >0}

這裡需要 {\displaystyle {\mathcal {C}}}來限制 {\displaystyle \mathbf {D} }的原子不會因 {\displaystyle r\_{i}}的值非常小而變得無窮大。{\displaystyle \lambda }這裡則是控制稀鬆性，{\displaystyle \lambda }越大，稀鬆性越大，{\displaystyle \lambda }越小，稀鬆性越小，但稀鬆性越大代表還原的誤差也會越大，{\displaystyle \lambda }的取值常常伴隨著稀鬆性與還原誤差之間的取捨。

#### 字典的性质

當n<d，上述定義的稀鬆字典{\displaystyle \mathbf {D} }被稱為低完備（Undercomplete）；當n>d，稀鬆字典{\displaystyle \mathbf {D} }則被稱為過完備（Overcomplete）。

低完備字典會讓輸入訊號投影到低維度空間，類似於降維(Dimension reduction)、主要成分分析。在投影到低完備的字典時，如何選擇重要的子空間（Subspace）是非常重要的，選擇對的子空間能夠讓訊號最大程度的被保留下來。使用低完備字典進行降維這個方法可以應用在資料分析或分類上。

過完備的字典由於由較多的"原子"組成，因此一般上擁有較豐富的表達式。此外，過完備的特性能讓訊號投影在到過完備字典時擁有稀鬆的特性。而透過學習得到的字典，即透過稀鬆字典學習而來的字典能讓訊號在投影過來之後擁有更加稀鬆的表達式。

演算法
---

在問題定義有提到，在找尋一個可以讓訊號投影至該空間並具有稀鬆特質的字典其實就是一種最佳化問題。這最佳化問題與稀鬆編碼以及字典相關，目前大部分演算法都是迭代式的相繼更新字典以及其表達式。

#### 最佳方向法 Method of optimal directions (MOD)

最佳方向法是其中一個最早被提出用來解決稀鬆字典學習的方法。最佳方向法的核心理念是下面的最小化問題，在下面的最小化問題中，它的表達式只有固定數量的非零數值。

{\displaystyle \min \_{\mathbf {D} ,R}\{\|X-\mathbf {D} R\|\_{F}^{2}\}\,\,{\text{s.t.}}\,\,\forall i\,\,\|r\_{i}\|\_{0}\leq T}

在這裡，{\displaystyle F}為**弗羅貝尼烏斯範數**（Frobenius norm）。在整個演算法過程中，MOD使用匹配追縱（Matching Pursuit)來取得訊號的稀鬆編碼，隨即計算{\displaystyle \mathbf {D} =XR^{+}}的解析解（Analytic solution），這裡的{\displaystyle R^{+}}指的是摩爾－彭若斯廣義逆（Moore-Penrose pseudoinverse)。隨後這個更新後的{\displaystyle \mathbf {D} }會在再標準化（Renormalized）以達到我們的約束條件。這時，新的稀鬆編碼也會同時計算得到。這個過程會一直重複直到稀鬆字典{\displaystyle \mathbf {D} }以及稀鬆編碼{\displaystyle R}收斂為止。

#### K-SVD

  

K-SVD（英语：） 主要是以奇異值分解為核心來更新稀鬆字典的"原子"。它會讓輸入訊號{\displaystyle x\_{i}}以不超過{\displaystyle T\_{0}}的元素以線性組合的方式表示，整個過程與MOD類似：

{\displaystyle \min \_{\mathbf {D} ,R}\{\|X-\mathbf {D} R\|\_{F}^{2}\}\,\,{\text{s.t.}}\,\,\forall i\,\,\|r\_{i}\|\_{0}\leq T\_{0}}

整個演算法的過程在，一、先固定字典，找出滿足上述條件相對應的{\displaystyle R}（可以使用匹配追蹤)。然後固定{\displaystyle R}，利用下面的式子迭代式的更新字典。

{\displaystyle \|X-\mathbf {D} R\|\_{F}^{2}=\left|X-\sum \_{i=1}^{K}d\_{i}x\_{T}^{i}\right|\_{F}^{2}=\|E\_{k}-d\_{k}x\_{T}^{k}\|\_{F}^{2}}

相关应用
----

整个字典学习的架构，其实就是对我们的输入讯号进行线性分解，分解到字典里的少数"原子"，并具有稀松特性。而这些"原子"是由本身的讯号产生，或学习得出来的。稀松字典学习可以应用在影像或者是影片处理。这个技术也常常被应用在分类问题上，我们可以针对不同的分类来对字典进行设计，透过输入讯号映射到字典的稀松表达式，我们可以较容易的把该讯号进行有效的分类。

此外，字典学习还有一个性质，那就是在杂讯去除上非常有效。这时因为字典在学习时会找出输入讯号相似的特性，这时候具有意义的讯号会被学习到字典，而不具意义的讯号则会被排除在字典之外。那么，当输入讯号映射到字典时，由于字典不含有杂讯的"原子"，所以该讯号在还原回来时不会有杂讯。

参考资料
----

1. ↑  Needell, D.; Tropp, J.A.. Applied and Computational Harmonic Analysis. 2009-05, **26** (3): 301–321  [2018-11-18]. ISSN 1063-5203. doi:10.1016/j.acha.2008.07.002. （原始内容存档于2018-10-24）.
2. ↑ . www.796t.com.  [2022-09-26]. （原始内容存档于2022-09-29） （中文（臺灣））.