מטריצת לפלסיאן

בתורת הגרפים, מטריצת לפלסיאן (לעיתים מטריצת קירכהוף) היא מטריצת המתארת גרף. למטריצת הלפלסיאן שימושים רבים והיא מאפשרת למצוא תכונות שונות של גרפים. בין היתר באמצעות משפט קירכהוף ניתן לחשב את מספר העצים הפורשים בגרף. שימוש חשוב נוסף של מטריצת הלפלסיאן הוא בהקשר של גרפים מרחיבים, שבהם אי שוויון צ'יגר קושר בין הערך העצמי השני של מטריצת הלפלסיאן לחתך המינימלי בגרף. מטריצת הלפלסיאן עבור גרף G {\displaystyle G} , שבו n {\displaystyle n} קודקודים היא מטריצה בגודל n × n {\displaystyle n\times n} המוגדרת כך: L = D − A , {\displaystyle L=D-A,} כאשר: D {\displaystyle D} היא מטריצת הדרגות - מטריצת אלכסונית אשר הערכים על האלכסון הם ערכי הדרגות של כל קודקוד A {\displaystyle A} היא מטריצת שכנות - מטריצה שבה עבור כל שני קודקודים i , j {\displaystyle i,j} יופיע 1 בתא ה- i , j {\displaystyle i,j} אם שני הקודקודים שכנים, ו-0 אחרת. כאשר עוסקים בגרף מכוון לעיתים נעשה שימוש בדרגת הקשתות הנכנסות ולעיתים נעשה שימוש בדרגת הקשתות היוצאות כתלות בשימוש. התאים במטריצת L {\displaystyle L} נתונים על ידי: L i , j := { deg ⁡ ( v i ) if   i = j − 1 if   i ≠ j   and   v i  is adjacent to  v j 0 otherwise {\displaystyle L_{i,j}:={\begin{cases}\deg(v_{i})&{\mbox{if}}\ i=j\\-1&{\mbox{if}}\ i\neq j\ {\mbox{and}}\ v_{i}{\mbox{ is adjacent to }}v_{j}\\0&{\mbox{otherwise}}\end{cases}}} כאשר d e g ( v i ) {\displaystyle deg(v_{i})} היא הדרגה של הקודקוד ה- i {\displaystyle i} . שתי מטריצות הנגזרות ממטריצת הלפלסיאן, מטריצת הלפלסיאן הסימטרית המנורמלת ומטריצת הלפלסיאן המנורמלת של מהלך אקראי, הן גרסאות מנורמלות של המטריצה, ולהן שימושים בהקשרים שונים. מטריצת לפלסיאן סימטרית מנורמלת (symmetric normalized Laplacian matrix) מוגדרת כך: L sym := D − 1 / 2 L D − 1 / 2 = I − D − 1 / 2 A D − 1 / 2 {\displaystyle L^{\text{sym}}:=D^{-1/2}LD^{-1/2}=I-D^{-1/2}AD^{-1/2}} , התאים ב- L sym {\displaystyle L^{\text{sym}}} נתונים על ידי: L i , j sym := { 1 if   i = j   and   deg ⁡ ( v i ) ≠ 0 − 1 deg ⁡ ( v i ) deg ⁡ ( v j ) if   i ≠ j   and   v i  is adjacent to  v j 0 otherwise . {\displaystyle L_{i,j}^{\text{sym}}:={\begin{cases}1&{\mbox{if}}\ i=j\ {\mbox{and}}\ \deg(v_{i})\neq 0\\-{\frac {1}{\sqrt {\deg(v_{i})\deg(v_{j})}}}&{\mbox{if}}\ i\neq j\ {\mbox{and}}\ v_{i}{\mbox{ is adjacent to }}v_{j}\\0&{\mbox{otherwise}}.\end{cases}}} מטריצת לפלסיאן מנורמלת של מהלך אקראי (random-walk normalized Laplacian matrix) מוגדרת כך: L rw := D − 1 L = I − D − 1 A {\displaystyle L^{\text{rw}}:=D^{-1}L=I-D^{-1}A} האיברים של L rw {\displaystyle L^{\text{rw}}} נתונים על ידי: L i , j rw := { 1 if   i = j   and   deg ⁡ ( v i ) ≠ 0 − 1 deg ⁡ ( v i ) if   i ≠ j   and   v i  is adjacent to  v j 0 otherwise . {\displaystyle L_{i,j}^{\text{rw}}:={\begin{cases}1&{\mbox{if}}\ i=j\ {\mbox{and}}\ \deg(v_{i})\neq 0\\-{\frac {1}{\deg(v_{i})}}&{\mbox{if}}\ i\neq j\ {\mbox{and}}\ v_{i}{\mbox{ is adjacent to }}v_{j}\\0&{\mbox{otherwise}}.\end{cases}}} להלן דוגמה לגרף ולמטריצת הלפלסיאן שלו: עבור גרף לא מכוון G {\displaystyle G} , שמטריצת הלפלסיאן שלו היא L {\displaystyle L} עם ערכים עצמיים λ 0 ≤ λ 1 ≤ ⋯ ≤ λ n − 1 {\displaystyle \lambda _{0}\leq \lambda _{1}\leq \cdots \leq \lambda _{n-1}} : L {\displaystyle L} היא מטריצה סימטרית L {\displaystyle L} היא מטריצת חיובית למחצה (כלומר לכל i {\displaystyle i} מתקיים λ i ≥ 0 {\displaystyle \lambda _{i}\geq 0} ) הסכום של כל שורה ושל כל עמודה הוא 0, שכן הדרגה נסכמת עם 1- לכל שכן. בהתאם λ 0 = 0 {\displaystyle \lambda _{0}=0} כיוון שהווקטור v 0 = ( 1 , 1 , … , 1 ) {\displaystyle \mathbf {v} _{0}=(1,1,\dots ,1)} מקיים L v 0 = 0 . {\displaystyle L\mathbf {v} _{0}=\mathbf {0} .} מספר הפעמים ש-0 מופיע כערך עצמי במטריצה הוא כמספר רכיבי הקשירות בגרף. הערך העצמי הקטן ביותר של L {\displaystyle L} שאינו 0 נקרא הפער הספקטרלי. הערך העצמי השני הכי קטן הוא הקשירות האלגברית (או ערך פידלר) של G {\displaystyle G} . כאשר G {\displaystyle G} הוא k-רגולרי הלפלסיאן המנורמל הוא L = 1 k L = I − 1 k A {\displaystyle {\mathcal {L}}={\tfrac {1}{k}}L=I-{\tfrac {1}{k}}A} , כאשר A {\displaystyle A} היא מטריצת השכנות ו- I {\displaystyle I} היא מטריצת היחידה. מטריצת לפלסיאן היא מטריצה סינגולרית עבור גרף G = ( V , E ) {\displaystyle G=(V,E)} , שבו V {\displaystyle V} הם קבוצת הקודקודים ו- E {\displaystyle E} היא קבוצת הקשתות, מטריצת החילה (Incidence matrix)‏ M {\displaystyle M} היא מטריצה בגודל | E | × | V | {\displaystyle |E|\times |V|} שהתא ה- M e v {\displaystyle M_{ev}} עבור e = ( i , j ) ∈ E {\displaystyle e=(i,j)\in E} ו- v ∈ V {\displaystyle v\in V} נתון על ידי: M e v = { 1 , if v = i − 1 , if v = j 0 , otherwise . {\displaystyle M_{ev}=\left\{{\begin{array}{rl}1,&{\text{if}}\,v=i\\-1,&{\text{if}}\,v=j\\0,&{\text{otherwise}}.\end{array}}\right.} ניתן לחשב את מטריצת הלפלסיאן ממטריצת החילה באופן הבא: L = M T M {\displaystyle L=M^{\text{T}}M} כאשר M T {\displaystyle M^{\text{T}}} הוא שחלוף השורות והעמודות של M {\displaystyle M} . הפירוק לווקטורים עצמיים של מטריצת הלפלסיאן L {\displaystyle L} , עם וקטורים עצמיים עם גודל יחידה v i {\displaystyle \mathbf {v} _{i}} וערכים עצמיים λ i {\displaystyle \lambda _{i}} : λ i = v i T L v i = v i T M T M v i = ( M v i ) T ( M v i ) . {\displaystyle {\begin{aligned}\lambda _{i}&=\mathbf {v} _{i}^{T}L\mathbf {v} _{i}\\&=\mathbf {v} _{i}^{T}M^{T}M\mathbf {v} _{i}\\&=(M\mathbf {v} _{i})^{T}(M\mathbf {v} _{i}).\\\end{aligned}}} מאחר ש- λ i {\displaystyle \lambda _{i}} יכול להיכתב כמכפלה פנימית של הווקטור M v i {\displaystyle M\mathbf {v} _{i}} עם עצמו, זה מראה כי λ i ≥ 0 {\displaystyle \lambda _{i}\geq 0} ולכן כל הערכים העצמיים של L {\displaystyle L} הם לא שליליים. מטריצת לפלסיאן (סימטרית) מנורמלת מוגדרת כך: L sym := D − 1 / 2 L D − 1 / 2 = I − D − 1 / 2 A D − 1 / 2 {\displaystyle L^{\text{sym}}:=D^{-1/2}LD^{-1/2}=I-D^{-1/2}AD^{-1/2}} כאשר L {\displaystyle L} היא מטריצת לפלסיאן, A {\displaystyle A} היא מטריצת שכנות ו- D {\displaystyle D} היא מטריצת הדרגות. מאחר שמטריצת הדרגות D {\displaystyle D} היא אלכסונית וחיובית, השורש ההופכי שלה D − 1 / 2 {\displaystyle D^{-1/2}} הוא מטריצה אלכסונית שבה הערכים לאורך האלכסון הם ההפכים של השורשים של הערכים על האלכסון של D {\displaystyle D} . ניתן לחשב אותה כך: L sym = S S ∗ {\displaystyle L^{\text{sym}}=SS^{*}} , כאשר S {\displaystyle S} היא מטריצה שבה השורות מאונדקסות על יד הקודקודים והעמודות על פי הקשתות של הגרף כך שבעמודה המתאימה לקשת e = ( u , v ) {\displaystyle e=(u,v)} , התא בשורה u {\displaystyle u} הוא הוא בעל ערך 1 d u {\displaystyle {\frac {1}{{\sqrt {d}}_{u}}}} , ובשורה המתאימה ל- v {\displaystyle v} הוא בעל ערך − 1 d v {\displaystyle -{\frac {1}{{\sqrt {d}}_{v}}}} , ו-0 ביתר התאים. (הערה: S ∗ {\displaystyle S^{*}} מייצג את השחלוף של S {\displaystyle S} ). כל הערכים העצמיים של מטריצת הלפלסיאן המנורמלת ממשים ואי שליליים. אפשר להראות זאת כך: מאחר ש- L sym {\displaystyle L^{\text{sym}}} היא סימטרית, הערכים העצמיים בה ממשיים. בנוסף הם אי שליליים: עבור הווקטור העצמי g {\displaystyle g} של L sym {\displaystyle L^{\text{sym}}} עם הערך העצמי המתאים λ {\displaystyle \lambda } ונניח כי g = D 1 / 2 f {\displaystyle g=D^{1/2}f} . (אפשר לחשוב על g {\displaystyle g} ו- f {\displaystyle f} כפונקציות ממשיות על הקודקודים v {\displaystyle v} .) אז: λ   =   ⟨ g , L sym g ⟩ ⟨ g , g ⟩   =   ⟨ g , D − 1 / 2 L D − 1 / 2 g ⟩ ⟨ g , g ⟩   =   ⟨ f , L f ⟩ ⟨ D 1 / 2 f , D 1 / 2 f ⟩   =   ∑ u ∼ v ( f ( u ) − f ( v ) ) 2 ∑ v f ( v ) 2 d v   >   0 {\displaystyle \lambda \ {}=\ {}{\frac {\langle g,L^{\text{sym}}g\rangle }{\langle g,g\rangle }}\ {}=\ {}{\frac {\langle g,D^{-1/2}LD^{-1/2}g\rangle }{\langle g,g\rangle }}\ {}=\ {}{\frac {\langle f,Lf\rangle }{\langle D^{1/2}f,D^{1/2}f\rangle }}\ {}=\ {}{\frac {\sum _{u\sim v}(f(u)-f(v))^{2}}{\sum _{v}f(v)^{2}d_{v}}}\ >\ 0} כאשר משתמשים במכפלה הפנימית ⟨ f , g ⟩ = ∑ v f ( v ) g ( v ) {\displaystyle \langle f,g\rangle =\sum _{v}f(v)g(v)} , סכום כל הקודקודים v {\displaystyle v} , ו- ∑ u ∼ v {\displaystyle \sum _{u\sim v}} מסמן סכום על כל הזוגות הלא סדורים של קודקודים סמוכים { u , v } {\displaystyle \{u,v\}} . הסכום ∑ u , v ( f ( u ) − f ( v ) ) 2 {\displaystyle \sum _{u,v}(f(u)-f(v))^{2}} נקרא סכום דיריכלה של f {\displaystyle f} כאשר הביטוי ⟨ g , L sym g ⟩ ⟨ g , g ⟩ {\displaystyle {\frac {\langle g,L^{\text{sym}}g\rangle }{\langle g,g\rangle }}} נקרא מנת רייליג (Rayleigh quotient) של g {\displaystyle g} . תהא 1 פונקציה המניחה את הערך 1 עבור כל קודקוד. אז D 1 / 2 1 {\displaystyle D^{1/2}1} הוא פונקציה עצמית של L sym {\displaystyle L^{\text{sym}}} עם ערך עצמי 0. הערכים העצמיים של מטריצת הלפלסיאן הסימטרית המנורמלת מקיימים 0 = μ 0 ≤ . . . ≤ μ n − 1 ≤ 2 {\displaystyle 0=\mu _{0}\leq ...\leq \mu _{n-1}\leq 2} . ערכים עצמיים אלו ידועים כספקטרום של מטריצת הלפלסיאן המנורמלת. מטריצת לפלסיאן מנורמלת של מהלך אקראי, מוגדרת כך: L rw := D − 1 L {\displaystyle L^{\text{rw}}:=D^{-1}L} כאשר D {\displaystyle D} היא מטריצת דרגות. מאחר שמטריצת הדרגות D {\displaystyle D} היא אלכסונית, המטריצה ההופכית שלה D − 1 {\displaystyle D^{-1}} היא מטריצה אלכסונית גם כן, שהערכים על האלכסון שלה הם ההופכיים של האיברים המתאימים להם ב- D {\displaystyle D} . עבור קודקודים מבודדים (בעלי דרגה 0), נהוג להגדיר את האיבר המתאים L i , i rw {\displaystyle L_{i,i}^{\text{rw}}} ל-0. התוצאה של הגדרה כזו היא תכונה יפה שמספר הערכים העצמיים שערכם הוא 0 שווה למספר רכיבי הקשירות בגרף. איברי המטריצה L rw {\displaystyle L^{\text{rw}}} נתונים על ידי: L i , j rw := { 1 if   i = j   and   deg ⁡ ( v i ) ≠ 0 − 1 deg ⁡ ( v i ) if   i ≠ j   and   v i  is adjacent to  v j 0 otherwise . {\displaystyle L_{i,j}^{\text{rw}}:={\begin{cases}1&{\mbox{if}}\ i=j\ {\mbox{and}}\ \deg(v_{i})\neq 0\\-{\frac {1}{\deg(v_{i})}}&{\mbox{if}}\ i\neq j\ {\mbox{and}}\ v_{i}{\mbox{ is adjacent to }}v_{j}\\0&{\mbox{otherwise}}.\end{cases}}} השם מטריצת לפלסיאן מנורמלת של מהלך אקראי בא מהעובדה כי מטריצה זו היא פשוט מטריצת המעברים של מהלך מקרי בגרף. לדוגמה e i {\displaystyle e_{i}} וקטור הבסיס הסטנדרטי ה-i, אז x = e i L rw {\displaystyle x=e_{i}L^{\text{rw}}} הוא וקטור הסתברות המתאר את ההתפלגות של מיקום מהלך אקראי לאחר צעד אחד מהקודקוד i {\displaystyle i} , כלומר x j = P ( v i → v j ) {\displaystyle x_{j}=\mathbb {P} (v_{i}\to v_{j})} . באופן כללי יותר אם x {\displaystyle x} הוא התפלגות של מיקום מהלך אקראי בקודקודי הגרף אז x ′ = x ( L rw ) t {\displaystyle x'=x(L^{\text{rw}})^{t}} היא ההתפלגות של מיקום מהלך אקראי לאחר t {\displaystyle t} צעדים. ניתן לראות כי: L rw = D − 1 2 ( I − L sym ) D 1 2 {\displaystyle L^{\text{rw}}=D^{-{\frac {1}{2}}}\left(I-L^{\text{sym}}\right)D^{\frac {1}{2}}} , L rw {\displaystyle L^{\text{rw}}} דומה למטריצת הלפלסיאן המנורמלת (הסימטרית) L sym {\displaystyle L^{\text{sym}}} . מסיבה זו, אפילו אם L rw {\displaystyle L^{\text{rw}}} אינה הרמיטית באופן כללי, יש לה ערכים עצמיים ממשיים. לעיתים מתייחסים למטריצה I − D − 1 A {\displaystyle I-D^{-1}A} גם כן כמטריצת לפלסיאן של הילוך מקרי מאחר שהתכונות שלה דומות לאלו של מטריצת לפלסיאן דיסקרטית סטנדרטית מתחום האנליזה הנומרית. למטריצת הלפלסיאן שימושים רבים בתורת הגרפים ובאלגוריתמים. ערך מורחב – משפט קירכהוף יהא G {\displaystyle G} גרף קשיר בעל n {\displaystyle n} קודקודים, ויהיו λ 1 , λ 2 , . . . , λ n − 1 {\displaystyle \displaystyle \lambda _{1},\lambda _{2},...,\lambda _{n-1}} ערכים עצמיים שונים מאפס של הלפלסיאן L {\displaystyle L} של G {\displaystyle G} . אזי t ( G ) {\displaystyle \displaystyle t(G)} , מספר העצים הפורשים של G {\displaystyle G} , הוא: t ( G ) = 1 n λ 1 λ 2 ⋯ λ n − 1 {\displaystyle t(G)={\frac {1}{n}}\lambda _{1}\lambda _{2}\cdots \lambda _{n-1}} במילים אחרות, מספר העצים הפורשים שווה למינור של L {\displaystyle L} . קבוע צ'יגר (Cheeger) הוא מדד מספרי האם גרף מכיל "צוואר בקבוק". הקבוע מוגדר על ידי h ( G ) = min 0 < | S | ≤ n 2 | ∂ ( S ) | | S | {\displaystyle h(G)=\min _{0<|S|\leq {\frac {n}{2}}}{\frac {|\partial (S)|}{|S|}}} (מהי קבוצת הקודקודים בגודל של עד חצי ממספר הקודקודים, שעבורה מספר הקשתות שיצאו ממנה ביחס לגודל שלה יהיה מינימלי). הערך העצמי הקטן ביותר של מטריצת לפלסיאן L {\displaystyle L} שאינו 0 נקרא הפער הספקטרלי. עבור גרף G {\displaystyle G} שהוא d {\displaystyle d} רגולרי קיים קשר בין הפער הספקטרלי לקבוע זה, שהוכח על ידי טנר, ובאופן בלתי תלוי על ידי נוגה אלון וויטלי מילמן: 1 2 ( λ 2 ) ≤ h ( G ) ≤ 2 ( λ 2 ) {\displaystyle {\tfrac {1}{2}}(\lambda _{2})\leq h(G)\leq {\sqrt {2(\lambda _{2})}}} . בתחום של ניתוח אשכולות (Clustering), מתעניינים בבעיה שבהינתן דוגמאות x 1 , . . . , x m {\displaystyle x_{1},...,x_{m}} (כאשר x i ∈ R n : i ∈ [ 1 , m ] {\displaystyle x_{i}\in \mathbb {R} ^{n}:i\in [1,m]} ), מספר k {\displaystyle k} ופונקציית דמיון רוצים למצוא חלוקה הדוגמאות ל- k {\displaystyle k} קבוצות כך שהדוגמאות בכל קבוצה יהיו דומות זו לזו. אחת ממשפחות האלגוריתמים הנפוצה לפתרון בעיות מסוג זה היא אלגוריתמים של אשכול ספקטרלי (Spectral clustering). אלגוריתמים אלו מבוססים על בניית גרף דמיון, גרף שבו כל דוגמה היא קודקוד, וכל קשת מחברת בין דוגמאות דומות (בחירה אפשרית לכך היא חיבור קודקודים שעבורם פונקציית הדמיון החזירה ערך קטן מערך מסוים). על פי הגרף מחשבים מטריצת לפלסיאן (קיימות גרסאות שונות של אשכול ספקטרלי העושות שימוש במטריצת לפלסיאן מנורמלת), ותוך שימוש בווקטורים העצמיים שלה מחפשים חלוקה לקבוצות באמצעות אלגוריתם k-מרכזים (k-means). גדי אלכסנדרוביץ', משפט המטריצה-עץ של קירכהוף, באתר "לא מדויק", 13 בספטמבר 2011 מטריצת לפלסיאן, באתר MathWorld (באנגלית) Daniel A. Spielman, Algorithms, Graph Theory, and Linear Equa-tions in Laplacian Matrices, Proceedings of the International Congress of Mathematicians. Hyderabad, India, 2010 Laplacian Matrix ב-mathworld Algebraic Connectivity ב-mathworld F. R. K. Chung, Laplacians of graphs and Cheeger inequalities אולריקה פון לוקסבורג, A Tutorial on Spectral Clustering, מכון מקס פלנק