譜聚類

譜聚類係一種聚類分析方法，要聚類嘅對象着視為一幅圖啲綟，啲對象之間嘅距離或者嘸相似度係着表示成圖啲綟之間啲加有權嘅檠。譜聚類係基於圖論對於個拉氏矩陣嘅分析結果，個拉氏矩陣對應返啲圖係有隻連通元件。由於矩陣啲特徵值亦都喊做頻譜，所以種方法喊做譜聚類。譜聚類嘅圖論理論基礎係由 Donath & Hoffman (1973) 同 Fiedler (1973) 奠定嘅。

數學基礎

圖縮減 
喺第一步，個圖着縮減，而個目的係從圖裏便鏟走所有啲權重太大嘅檠。以下係啲方法：

ε鄰舍圖 
 若果某檠嘅權重大過，就由圖度鏟走條檠。

k-nn 圖 
 喺 k-nn 圖裏便，一粒綟啲所有檠都根據檠嘅權重排序。有檠個權重大過第個最細權重嘅，就着從圖度鏟走。個 -nn 係嘸對稱嘅，即隻檠權重可能對於嚟講係細過第個最細檠權重，之對於又嘸細過佢個第個最細檠權重。得喊做係 k-nn 圖只需要到條檠保留喺圖裏便嘅，對於或者其中至少一個對象，個細過佢第個最細檠權重，即係每個對象至少有條檠。相反，一個「 佮埋嘅 k-nn 圖」只包含有啲檠、啲對於兩個對象都有細過個最細檠權重嘅，即係每個對象都最多有條檠。

全連接圖 
 藉助相似度函數，檠權重係根據對象之間啲距離計出。相似度函數嘅一個例係高斯相似度函數。參數控制鄰舍大細似上高個參數或者噉。

拉氏矩陣 
透過檠權重可以幫個對象整出鄰接矩陣。次數矩陣入便，對角線上包含有通向綟啲檠嘅權重總和。係噉計得出三種拉氏矩陣：

非歸一化矩陣 ,
 歸一化矩陣
 歸一化矩陣 .

對於所有啲向量有：

由於拉氏矩陣係對稱同埋半正定嘅，所有特徵值都係實值而且大於或者等於零。對於拉氏矩陣，可以證明至少有一個特徵值係零。若果個圖由隻連通元件整出，係噉拉氏矩陣就係一個壆矩陣。每一壆都有一個等於零嘅特徵值。對於特徵值係零嘅特徵向量必須有。因爲所有啲檠權重係正嘅，一隻連通元件啲綟所有都必須相同。對於都有類似分析，唯有係特徵向量入便啲欄係由加權，而對於特徵向量啲欄係等於1。

對於聚類，分析拉氏矩陣啲最細特徵值同埋特徵向量。

演算法

各式演算法 
嘸同嘅譜聚類演算法有着開發出嚟：

非歸一化譜聚類：
 計非歸一化嘅拉氏矩陣
 計前枚特徵向量
 攞枚特徵向量啲行並用分匹方法整聚類，譬如k-平均演算法
Shi佮Malik嘅歸一化譜聚類：
 計歸一化嘅拉氏矩陣
 計前特徵向量
 攞枚特徵向量啲行並用分匹方法整聚類
Ng、Jordan佮Weiss嘅歸一化譜聚類 ：
 計歸一化嘅拉氏矩陣
 計前特徵向量
 攞枚特徵向量啲行並用分匹方法整聚類

參數揀選 
關於過程參數同演算法嘅揀選，Ulrike von Luxburg個教程推薦係： 

鄰舍圖嘅揀選：k-nn 圖，因為識別嘸同密度嘅聚類識別得好啲並生成得稀疏拉氏矩陣。亦都可以喺大啲嘅域內變化，而同時嘸會改變到個聚類分析好多。
 鄰舍圖啲參數嘅揀選：
 對於k-nn 圖，係噉揀選嘅，即個圖啲連通元件嘸少過預期聚類裏便應有嘅。
 對於普通 k-nn 圖，要大過k-nn度嘅，因爲普通k-nn 圖包含到嘅檠少過k-nn 圖。揀選嘅啟發式方法仲未知。
 對於鄰舍圖應該揀係等於最長條檠喺最細生成樹度嘅。
 對於啲全連接圖有高斯相似度函數嘅應該揀係令到結果幅圖對應返 k-nn 圖或者鄰舍圖。經驗法則仲有：等於最長條檠喺最細生成樹嘅或者作爲個平均距離去到隻最近鄰舍嘅，其中 .
 聚類數嘅揀選：畫出拉氏矩陣啲特徵值，照大細排序並搵跳躍，譬如喺上高示意圖入便8對象數據集個第3同第4特徵值之間嘅。
 拉氏矩陣嘅揀選：因爲對於嚟講，特徵向量入便啲欄係等於1，攞譬如k-means 演算法嚟聚類會幾好。

例 
Iris花數據集，係Sir Ronald Fisher爵士 (1936) 作爲判別分析嘅例使用到嘅。有時，個數據集亦都着喊做「Anderson's Iris花數據集」，因為Edgar Anderson收集唨啲數據嚟量化Iris花嘅形態變化。個數據集由 50 隻標本組成，每隻標本分為三隻物種：Iris setosa、Iris versicolor、Iris virginica。分別有測量到萼片同花瓣嘅長度同埋寬度，所以個數據集包含有150個觀察值同埋4個變量。就好似喺散佈圖矩陣個左便圖形見到噉，三種類型之一戥其他類型顯著嘸同。另外兩個物種互相之間好難分開。中間圖形顯示對象之間啲歐氏距離嘅灰度熱圖。灰色越深，對象離得越近。呢啲對象經已係噉重新排列法，即戥其他對象有相似距離嘅對象互相之間擺近。使用到嘅軟件用層次聚類嘅方法並顯示到個樹狀結構圖。右便圖形顯示到譜聚類嘅結果。可以睇得出，啲聚類戥三種類型有一定嘅一致性。左便兩幅圖像顯示到k-nn 圖或者普通 k-nn 圖裏便係邊啲檠着保留到或者嘸着保留到。對於參數，最長檠首先係喺最細生成樹中着確定到，然之後幫所有觀察值計出對應嘅鄰舍數。平均值大概係 60 個鄰舍，係噉揀。之後計拉氏矩陣同埋矩陣啲特徵值。特徵值圖顯示到喺第二個或者第三個特徵值之後有好大跳躍。然之後對前三枚特徵向量進行3聚類嘅 k平均聚類。

個混淆矩陣表明到譜聚類喺某種程度上重新發現過啲物種。譜聚類法完全正確噉分出Setosa聚類；喺 Versicolor同Virginica聚類嘅情況下有7 個觀測值各自捱錯誤噉分類到，對應嘅錯誤分類率係。

考 

聚類分析