約翰遜-林登斯特勞斯定理

約翰遜 - 林登斯特勞斯定理 ( Johnson – Lindenstrauss theorem ) ， 又稱約翰遜 - 林登斯特勞斯引理 ( Johnson – Lindenstrauss lemma ) ， 是由和於1984年提出的一個關於降維的著名定理 ， 在現代機器學習 ， 尤其是壓縮感知 、 降維 、 和等領域中有很重要的應用 。 這個定理告訴我們 ， 一個高維空間中的點集 ， 可以被線性地鑲嵌到低維空間中 ， 同時其空間結構只遭受比較小的形變 。 約翰遜 - 林登斯特勞斯定理的證明 ， 還說明了如何用明確地求出這個變換 ， 所用的算法只需要隨機多項式時間 。 當然 ， 降維不是免費的 ： 如果要求形變很少的話 ， 是被嵌入的低維空間維數不能很低 ； 反之亦然 ， 如果要求將點集嵌入很低維的空間 ， 那麼就不能很好地控制結構形變的程度 。 因爲能將維數下降到樣本量的對數階 ， 更兼所用的變換是線性的 、 顯式的還可以被快速計算 ， 約翰遜 - 林登斯特勞斯定理是一個力度非常強的結論 。