שיטת גאוס-זיידל

באלגברה ליניארית נומרית, שיטת גאוס-זיידל (באנגלית: Gauss–Seidel method) היא שיטה איטרטיבית לפתרון מערכת של משוואות ליניאריות. היא קרויה על שמם של המתמטיקאים הגרמנים קרל פרידריך גאוס ופיליפ לודוויג פון זיידל, ודומה מאוד לשיטת יעקובי. אף על פי שניתן ליישמה לכל מטריצה בעלת איברים שונים מאפס על האלכסון הראשי, התכנסותה מובטחת אך ורק אם המטריצה היא אלכסונית דומיננטית, או שהיא סימטרית וחיובית. היא הוזכרה לראשונה במכתב פרטי של גאוס לתלמידו גרלינג מ-1823. עם זאת, הפרסום הראשון שלה הוא של זיידל, ב-1874. יתרונה של שיטה זאת על פני שיטת האלימינציה הוא כיתרונן של כל השיטות האיטרטיביות - שיטות אלו מנצלות את דלילותן של מטריצות באופן יעיל יותר, ובמקרים של מטריצות דלילות במיוחד חוסכות רבות הן בזמן ריצה (מספר פעולות) והן במשאבי זיכרון מחשב. הדבר הופך אותן לשימושיות במיוחד במודלים של מערכות פיזיקליות גדולות בהן אין צימוד בין כל משתנה למשתנה (למשל, במקרה שהצימוד הוא קצר-טווח). שיטת גאוס-זיידל היא טכניקה איטרטיבית לפתרון מערכת ריבועית של n משוואות ליניאריות עם וקטור נעלמים x: A x = b {\displaystyle A\mathbf {x} =\mathbf {b} } . היא פועלת באמצעות האיטרציה: L ∗ x ( k + 1 ) = b − U x ( k ) , {\displaystyle L_{*}\mathbf {x} ^{(k+1)}=\mathbf {b} -U\mathbf {x} ^{(k)},} כאשר x ( k ) {\displaystyle \mathbf {x} ^{(k)}} הוא הקירוב ה-k ל- x {\displaystyle \mathbf {x} } , ואילו x ( k + 1 ) {\displaystyle \mathbf {x} ^{(k+1)}} הוא הקירוב הבא או האיטרציה ה-1 + k של x {\displaystyle \mathbf {x} } , בעוד המטריצה A מפורקת לסכום של מטריצה משולשית תחתונה L ∗ {\displaystyle L_{*}} , ולמטריצה משולשית עליונה בהחלט U: כלומר A = L ∗ + U {\displaystyle A=L_{*}+U} . ביותר פירוט, אם נכתוב את A, x ו- b לרכיביהם: A = [ a 11 a 12 ⋯ a 1 n a 21 a 22 ⋯ a 2 n ⋮ ⋮ ⋱ ⋮ a n 1 a n 2 ⋯ a n n ] , x = [ x 1 x 2 ⋮ x n ] , b = [ b 1 b 2 ⋮ b n ] . {\displaystyle A={\begin{bmatrix}a_{11}&a_{12}&\cdots &a_{1n}\\a_{21}&a_{22}&\cdots &a_{2n}\\\vdots &\vdots &\ddots &\vdots \\a_{n1}&a_{n2}&\cdots &a_{nn}\end{bmatrix}},\qquad \mathbf {x} ={\begin{bmatrix}x_{1}\\x_{2}\\\vdots \\x_{n}\end{bmatrix}},\qquad \mathbf {b} ={\begin{bmatrix}b_{1}\\b_{2}\\\vdots \\b_{n}\end{bmatrix}}.} אז הפירוק של A למרכיב של מטריצה משולשית תחתונה ולמרכיב של מטריצה משולשית עליונה ניתן על ידי: A = L ∗ + U where L ∗ = [ a 11 0 ⋯ 0 a 21 a 22 ⋯ 0 ⋮ ⋮ ⋱ ⋮ a n 1 a n 2 ⋯ a n n ] , U = [ 0 a 12 ⋯ a 1 n 0 0 ⋯ a 2 n ⋮ ⋮ ⋱ ⋮ 0 0 ⋯ 0 ] . {\displaystyle A=L_{*}+U\qquad {\text{where}}\qquad L_{*}={\begin{bmatrix}a_{11}&0&\cdots &0\\a_{21}&a_{22}&\cdots &0\\\vdots &\vdots &\ddots &\vdots \\a_{n1}&a_{n2}&\cdots &a_{nn}\end{bmatrix}},\quad U={\begin{bmatrix}0&a_{12}&\cdots &a_{1n}\\0&0&\cdots &a_{2n}\\\vdots &\vdots &\ddots &\vdots \\0&0&\cdots &0\end{bmatrix}}.} אנליטית, איטרציית גאוס-זיידל ניתנת לכתיבה מחדש כ-: x ( k + 1 ) = L ∗ − 1 ( b − U x ( k ) ) . {\displaystyle \mathbf {x} ^{(k+1)}=L_{*}^{-1}(\mathbf {b} -U\mathbf {x} ^{(k)}).} עם זאת, באמצעות ניצול הצורה המשולשית של המטריצה L ∗ {\displaystyle L_{*}} , האיברים של x(k+1) ניתנים לחישוב באופן סדרתי על ידי ההצבה: x i ( k + 1 ) = 1 a i i ( b i − ∑ j = 1 i − 1 a i j x j ( k + 1 ) − ∑ j = i + 1 n a i j x j ( k ) ) , i = 1 , 2 , … , n . {\displaystyle x_{i}^{(k+1)}={\frac {1}{a_{ii}}}\left(b_{i}-\sum _{j=1}^{i-1}a_{ij}x_{j}^{(k+1)}-\sum _{j=i+1}^{n}a_{ij}x_{j}^{(k)}\right),\quad i=1,2,\dots ,n.} תהליך זה נמשך עד אשר השינויים הנגרמים על ידי איטרציה חוזרת הם מתחת לשארית קטנה מסוימת (שמוגדרת מראש). ההתכנסות של שיטת גאוס-זיידל תלויה במטריצה A. ידוע כי התהליך מתכנס אם אחד משני התנאים הבאים מתקיים: A היא סימטרית וחיובית, או A היא אלכסונית דומיננטית (diagonally dominant), הווה אומר כאשר כל איבר באלכסונה הראשי מקיים שערכו המוחלט גדול מסכום הערכים המוחלטים של כל האיברים האחרים באותה שורה, כלומר כאשר | a i i | > ∑ j ≠ i | a i j | for all  i , {\displaystyle |a_{ii}|>\sum _{j\neq i}|a_{ij}|\quad {\text{for all }}i,\,} . שיטת גאוס-זיידל, באתר MathWorld (באנגלית) שיטות יעקבי וגאוס-זיידל - שיעור באתר Youtube.