מטריצת לפלסיאן

בתורת הגרפים, **מטריצת לפלסיאן** (לעיתים **מטריצת קירכהוף**) היא מטריצת המתארת גרף. למטריצת הלפלסיאן שימושים רבים והיא מאפשרת למצוא תכונות שונות של גרפים. בין היתר באמצעות משפט קירכהוף ניתן לחשב את מספר העצים הפורשים בגרף. שימוש חשוב נוסף של מטריצת הלפלסיאן הוא בהקשר של גרפים מרחיבים, שבהם אי שוויון צ'יגר קושר בין הערך העצמי השני של מטריצת הלפלסיאן לחתך המינימלי בגרף.

## הגדרות
מטריצת הלפלסיאן עבור גרף *<math>G</math>*, שבו *<math>n</math>* קודקודים היא מטריצה בגודל n \times n המוגדרת כך:
: 
L = D - A,

כאשר:
**<math>D</math>* היא מטריצת הדרגות - מטריצת אלכסונית אשר הערכים על האלכסון הם ערכי הדרגות של כל קודקוד
**<math>A</math>* היא מטריצת שכנות - מטריצה שבה עבור כל שני קודקודים *<math>i,j</math>* יופיע 1 בתא ה-*<math>i,j</math>* אם שני הקודקודים שכנים, ו-0 אחרת.
כאשר עוסקים בגרף מכוון לעיתים נעשה שימוש בדרגת הקשתות הנכנסות ולעיתים נעשה שימוש בדרגת הקשתות היוצאות כתלות בשימוש.

התאים במטריצת L נתונים על ידי:
L_{i,j}:=
\begin{cases}
\deg(v_i) & \mbox{if}\ i = j \\
-1 & \mbox{if}\ i \neq j\ \mbox{and}\ v_i \mbox{ is adjacent to } v_j \\
0 & \mbox{otherwise}
\end{cases}

כאשר deg(v_i) היא הדרגה של הקודקוד ה-*<math>i</math>*.

שתי מטריצות הנגזרות ממטריצת הלפלסיאן, מטריצת הלפלסיאן הסימטרית המנורמלת ומטריצת הלפלסיאן המנורמלת של מהלך אקראי, הן גרסאות מנורמלות של המטריצה, ולהן שימושים בהקשרים שונים.

**מטריצת לפלסיאן סימטרית מנורמלת** (symmetric normalized Laplacian matrix) מוגדרת כך:


L^{\text{sym}} := D^{-1/2} L D^{-1/2}= I - D^{-1/2} A D^{-1/2},

התאים ב-L^{\text{sym}} נתונים על ידי:

L^{\text{sym}}_{i,j}:=
\begin{cases}
1 & \mbox{if}\ i = j\ \mbox{and}\ \deg(v_i) \neq 0\\
-\frac{1}{\sqrt{\deg(v_i)\deg(v_j)}} & \mbox{if}\ i \neq j\ \mbox{and}\ v_i \mbox{ is adjacent to } v_j \\
0 & \mbox{otherwise}.
\end{cases}


**מטריצת לפלסיאן מנורמלת של מהלך אקראי** (random-walk normalized Laplacian matrix) מוגדרת כך:
L^{\text{rw}} := D^{-1}L = I - D^{-1}A

האיברים של L^{\text{rw}} נתונים על ידי:
L^{\text{rw}}_{i,j}:=
\begin{cases}
1 & \mbox{if}\ i = j\ \mbox{and}\ \deg(v_i) \neq 0\\
-\frac{1}{\deg(v_i)} & \mbox{if}\ i \neq j\ \mbox{and}\ v_i \mbox{ is adjacent to } v_j \\
0 & \mbox{otherwise}.
\end{cases}


## דוגמה
להלן דוגמה לגרף ולמטריצת הלפלסיאן שלו:

## תכונות
עבור גרף לא מכוון *<math>G</math>*, שמטריצת הלפלסיאן שלו היא *<math>L</math>* עם ערכים עצמיים \lambda_0 \le \lambda_1 \le \cdots \le \lambda_{n-1}:
**<math>L</math>* היא מטריצה סימטרית
**<math>L</math>* היא מטריצת חיובית למחצה (כלומר לכל *<math>i</math>* מתקיים \lambda_i \ge 0)
* הסכום של כל שורה ושל כל עמודה הוא 0, שכן הדרגה נסכמת עם 1- לכל שכן.
* בהתאם \lambda_0=0 כיוון שהווקטור \mathbf{v}_0=(1,1,\dots,1) מקיים L \mathbf{v}_0 = \mathbf{0} .
* מספר הפעמים ש-0 מופיע כערך עצמי במטריצה הוא כמספר רכיבי הקשירות בגרף.
* הערך העצמי הקטן ביותר של *<math>L</math>* שאינו 0 נקרא הפער הספקטרלי.
* הערך העצמי השני הכי קטן הוא הקשירות האלגברית (או ערך פידלר) של *<math>G</math>*.
* כאשר *<math>G</math>* הוא k-רגולרי הלפלסיאן המנורמל הוא \mathcal{L} = \tfrac{1}{k} L = I - \tfrac{1}{k} A, כאשר *<math>A</math>* היא מטריצת השכנות ו-*<math>I</math>* היא מטריצת היחידה.
* מטריצת לפלסיאן היא מטריצה סינגולרית

## מטריצת החילה
עבור גרף G=(V,E), שבו V הם קבוצת הקודקודים ו-E היא קבוצת הקשתות, מטריצת החילה (Incidence matrix) M היא מטריצה בגודל |E| \times |V| שהתא ה-M_{ev}  עבור e=(i,j)\in E ו-v \in V נתון על ידי:
:M_{ev} = \left\{ \begin{array}{rl}1, & \text{if}\,v=i\\-1, & \text{if}\,v=j\\0, & \text{otherwise}.\end{array}\right.
ניתן לחשב את מטריצת הלפלסיאן ממטריצת החילה באופן הבא:
:L = M^\text{T} M
כאשר M^\text{T} הוא שחלוף השורות והעמודות של *<math>M</math>*.

הפירוק לווקטורים עצמיים של מטריצת הלפלסיאן L, עם וקטורים עצמיים עם גודל יחידה \mathbf{v}_i וערכים עצמיים \lambda_i:
:
\begin{align}
\lambda_i & = \mathbf{v}_i^T L \mathbf{v}_i \\
& = \mathbf{v}_i^T M^T M \mathbf{v}_i \\
& = (M \mathbf{v}_i)^T (M \mathbf{v}_i). \\
\end{align}

מאחר ש-\lambda_i יכול להיכתב כמכפלה פנימית של הווקטור M \mathbf{v}_i עם עצמו, זה מראה כי \lambda_i \ge 0 ולכן כל הערכים העצמיים של L הם לא שליליים.

## מטריצת לפלסיאן סימטרית מנורמלת
מטריצת לפלסיאן (סימטרית) מנורמלת מוגדרת כך:

: L^{\text{sym}}:= D^{-1/2} L D^{-1/2} = I-D^{-1/2}AD^{-1/2}
כאשר *<math>L</math>* היא מטריצת לפלסיאן, *<math>A</math>* היא מטריצת שכנות ו-*<math>D</math>* היא מטריצת הדרגות. מאחר שמטריצת הדרגות *<math>D</math>* היא אלכסונית וחיובית, השורש ההופכי שלה D^{-1/2} הוא מטריצה אלכסונית שבה הערכים לאורך האלכסון הם ההפכים של השורשים של הערכים על האלכסון של *<math>D</math>*.

ניתן לחשב אותה כך: L^{\text{sym}} = S S^{*}, כאשר *<math>S</math>* היא מטריצה שבה השורות מאונדקסות על יד הקודקודים והעמודות על פי הקשתות של הגרף כך שבעמודה המתאימה לקשת e=(u,v), התא בשורה *<math>u</math>* הוא הוא בעל ערך \frac{1}{\sqrt d_{u}}, ובשורה המתאימה ל-*<math>v</math>* הוא בעל ערך -\frac{1}{\sqrt d_{v}}, ו-0 ביתר התאים. (הערה: S^{*} מייצג את השחלוף של *<math>S</math>*).

כל הערכים העצמיים של מטריצת הלפלסיאן המנורמלת ממשים ואי שליליים. אפשר להראות זאת כך: מאחר ש-L^{\text{sym}} היא סימטרית, הערכים העצמיים בה ממשיים. בנוסף הם אי שליליים: עבור הווקטור העצמי *<math>g</math>* של L^{\text{sym}} עם הערך העצמי המתאים \lambda ונניח כי  g = D^{1/2} f. (אפשר לחשוב על *<math>g</math>* ו-*<math>f</math>* כפונקציות ממשיות על הקודקודים *<math>v</math>*.) אז:

:
\lambda \ {} = \ {}
\frac{\langle g,L^{\text{sym}}g\rangle}{\langle g, g\rangle} 
\ {} = \ {}
\frac{\langle g, D^{-1/2} L D^{-1/2} g\rangle}{\langle g,g\rangle} 
\ {} = \ {}
\frac{\langle f, Lf\rangle}{\langle D^{1/2} f, D^{1/2} f\rangle} 
\ {} = \ {}
\frac{\sum_{u\sim v}(f(u) - f(v) )^2}{\sum_{v} f(v)^2 d_{v}} 
\ > \ 0

כאשר משתמשים במכפלה הפנימית \langle f,g\rangle = \sum_{v} f(v)g(v), סכום כל הקודקודים *<math>v</math>*, ו-\sum_{u\sim v} מסמן סכום על כל הזוגות הלא סדורים של קודקודים סמוכים *<math>\{u,v\}</math>*. הסכום 
\sum_{u,v}(f(u) - f(v) )^2
נקרא סכום דיריכלה של *<math>f</math>* כאשר הביטוי

\frac{\langle g,L^{\text{sym}}g\rangle}{\langle g, g\rangle} 

נקרא מנת רייליג (Rayleigh quotient) של *<math>g</math>*.

תהא **1** פונקציה המניחה את הערך 1 עבור כל קודקוד. אז D^{1/2} 1 הוא פונקציה עצמית שלL^{\text{sym}} עם ערך עצמי 0.

הערכים העצמיים של מטריצת הלפלסיאן הסימטרית המנורמלת מקיימים *<math>0=\mu_0\leq...\leq \mu_{n-1}\leq2</math>*. ערכים עצמיים אלו ידועים כספקטרום של מטריצת הלפלסיאן המנורמלת.

## מטריצת לפלסיאן מנורמלת של מהלך אקראי
מטריצת לפלסיאן מנורמלת של מהלך אקראי, מוגדרת כך:
: L^{\text{rw}} := D^{-1} L

כאשר *<math>D</math>* היא מטריצת דרגות. מאחר שמטריצת הדרגות *<math>D</math>* היא אלכסונית, המטריצה ההופכית שלה D^{-1} היא מטריצה אלכסונית גם כן, שהערכים על האלכסון שלה הם ההופכיים של האיברים המתאימים להם ב-*<math>D</math>*.
עבור קודקודים מבודדים (בעלי דרגה 0), נהוג להגדיר את האיבר המתאים L^{\text{rw}}_{i,i} ל-0.
התוצאה של הגדרה כזו היא תכונה יפה שמספר הערכים העצמיים שערכם הוא 0 שווה למספר רכיבי הקשירות בגרף.
איברי המטריצה L^{\text{rw}}  נתונים על ידי:

:L^{\text{rw}}_{i,j}:=
\begin{cases}
1 & \mbox{if}\ i = j\ \mbox{and}\ \deg(v_i) \neq 0\\
-\frac{1}{\deg(v_i)} & \mbox{if}\ i \neq j\ \mbox{and}\ v_i \mbox{ is adjacent to } v_j \\
0 & \mbox{otherwise}.
\end{cases}


השם מטריצת לפלסיאן מנורמלת של מהלך אקראי בא מהעובדה כי מטריצה זו היא פשוט מטריצת המעברים של מהלך מקרי בגרף. לדוגמה  e_i  וקטור הבסיס הסטנדרטי ה-i, אז x = e_i L^{\text{rw}}  הוא וקטור הסתברות המתאר את ההתפלגות של מיקום מהלך אקראי לאחר צעד אחד מהקודקוד i, כלומר x_j = \mathbb{P}(v_i \to v_j).
באופן כללי יותר אם  x  הוא התפלגות של מיקום מהלך אקראי בקודקודי הגרף אז x' = x (L^{\text{rw}})^t היא ההתפלגות של מיקום מהלך אקראי לאחר t צעדים.

ניתן לראות כי:

: L^{\text{rw}}=D^{-\frac12}\left( I - L^{\text{sym}}\right) D^{\frac12},

L^{\text{rw}} דומה למטריצת הלפלסיאן המנורמלת (הסימטרית) L^{\text{sym}}. מסיבה זו, אפילו אם L^{\text{rw}} אינה הרמיטית באופן כללי, יש לה ערכים עצמיים ממשיים.

לעיתים מתייחסים למטריצה I-D^{-1} A גם כן כמטריצת לפלסיאן של הילוך מקרי מאחר שהתכונות שלה דומות לאלו של מטריצת לפלסיאן דיסקרטית סטנדרטית מתחום האנליזה הנומרית.

## שימושים
למטריצת הלפלסיאן שימושים רבים בתורת הגרפים ובאלגוריתמים. 

### עצים פורשים בגרף

יהא G גרף קשיר בעל n קודקודים, ויהיו \displaystyle \lambda_1, \lambda_2,...,\lambda_{n-1} ערכים עצמיים שונים מאפס של הלפלסיאן L  של G. אזי \displaystyle t(G), מספר העצים הפורשים של G, הוא:

:t(G)=\frac{1}{n}\lambda_1\lambda_2\cdots\lambda_{n-1}

במילים אחרות, מספר העצים הפורשים שווה למינור של L.

### אי שוויון צ'יגר
קבוע צ'יגר (Cheeger) הוא מדד מספרי האם גרף מכיל "צוואר בקבוק". הקבוע מוגדר על ידי h(G) = \min_{0  (מהי קבוצת הקודקודים בגודל של עד חצי ממספר הקודקודים, שעבורה מספר הקשתות שיצאו ממנה ביחס לגודל שלה יהיה מינימלי).

הערך העצמי הקטן ביותר של מטריצת לפלסיאן L שאינו 0 נקרא הפער הספקטרלי. עבור גרף G שהוא d רגולרי קיים קשר בין הפער הספקטרלי לקבוע זה, שהוכח על ידי טנר, ובאופן בלתי תלוי על ידי נוגה אלון וויטלי מילמן:

\tfrac{1}{2}(\lambda_2) \le h(G) \le \sqrt{2( \lambda_2)}.

### אשכול ספקטרלי
בתחום של ניתוח אשכולות (Clustering), מתעניינים בבעיה שבהינתן דוגמאות x_1 ,..., x_m (כאשר x_i \in \mathbb{R}^n : i\in [1,m]), מספר k ופונקציית דמיון רוצים למצוא חלוקה הדוגמאות ל-k קבוצות כך שהדוגמאות בכל קבוצה יהיו דומות זו לזו. 

אחת ממשפחות האלגוריתמים הנפוצה לפתרון בעיות מסוג זה היא אלגוריתמים של אשכול ספקטרלי (Spectral clustering). אלגוריתמים אלו מבוססים על בניית גרף דמיון, גרף שבו כל דוגמה היא קודקוד, וכל קשת מחברת בין דוגמאות דומות (בחירה אפשרית לכך היא חיבור קודקודים שעבורם פונקציית הדמיון החזירה ערך קטן מערך מסוים). על פי הגרף מחשבים מטריצת לפלסיאן (קיימות גרסאות שונות של אשכול ספקטרלי העושות שימוש במטריצת לפלסיאן מנורמלת), ותוך שימוש בווקטורים העצמיים שלה מחפשים חלוקה לקבוצות באמצעות אלגוריתם k-מרכזים (k-means).

## קישורים חיצוניים
*
* 

*Daniel A. Spielman, Algorithms, Graph Theory, and Linear Equa-tions in Laplacian Matrices, Proceedings of the International Congress of Mathematicians. Hyderabad, India, 2010


## הערות שוליים

קטגוריה:מטריצות
קטגוריה:תורת הגרפים