מטריצת הסיאן

באנליזה מתמטית, מטריצת הסיאן (Hessian) היא מטריצה ריבועית, שאיבריה הם הנגזרות החלקיות מסדר שני של פונקציה. מטריצת ההסיאן שימושית במציאת נקודות קיצון של פונקציה מרובת משתנים ובסיווגן. המטריצה קרויה על שם המתמטיקאי הגרמני לודוויג אוטו הסה (Otto Hesse) שפיתח אותה במאה ה־19. תהא   f ( x 1 , … , x n ) : R n → R {\displaystyle \ f(x_{1},\dots ,x_{n}):\mathbb {R} ^{n}\rightarrow \mathbb {R} } פונקציה סקלרית בעלת   n {\displaystyle \ n} משתנים, שכל הנגזרות החלקיות מסדר 2 שלה קיימות. נגדיר את מטריצת ההסיאן   H ( f ) {\displaystyle \ H(f)} בנקודה   a = ( a 1 , … , a n ) {\displaystyle \ a=(a_{1},\dots ,a_{n})} בתור מטריצה בגודל   n × n {\displaystyle \ n\times n} כך ש:   [ H ( f ) ] i j = ∂ 2 f ∂ x i ∂ x j ( a ) {\displaystyle \ \left[H(f)\right]_{ij}={\frac {\partial ^{2}f}{\partial x_{i}\partial x_{j}}}(a)} - הערך של האיבר   i j {\displaystyle \ ij} הוא ערך הנגזרת השנייה של   f {\displaystyle \ f} בנקודה   a {\displaystyle \ a} כאשר קודם גוזרים על פי המשתנה   x j {\displaystyle \ x_{j}} ואחר כך על פי המשתנה   x i {\displaystyle \ x_{i}} . אם כל הנגזרות החלקיות מסדר 2 הן רציפות (נהוג לסמן זאת   f ∈ C 2 {\displaystyle \ f\in C^{2}} ), הנגזרות המעורבות על פי אותם משתנים שוות, כלומר f i j = f j i {\displaystyle f_{ij}=f_{ji}} . מכאן נובע כי אם   f ∈ C 2 {\displaystyle \ f\in C^{2}} אז מטריצת ההסיאן היא מטריצה סימטרית. H ( f ) = [ ∂ 2 f ∂ x 1 2 ∂ 2 f ∂ x 1 ∂ x 2 ⋯ ∂ 2 f ∂ x 1 ∂ x n ∂ 2 f ∂ x 2 ∂ x 1 ∂ 2 f ∂ x 2 2 ⋯ ∂ 2 f ∂ x 2 ∂ x n ⋮ ⋮ ⋱ ⋮ ∂ 2 f ∂ x n ∂ x 1 ∂ 2 f ∂ x n ∂ x 2 ⋯ ∂ 2 f ∂ x n 2 ] {\displaystyle H(f)={\begin{bmatrix}{\frac {\partial ^{2}f}{\partial x_{1}^{2}}}&{\frac {\partial ^{2}f}{\partial x_{1}\,\partial x_{2}}}&\cdots &{\frac {\partial ^{2}f}{\partial x_{1}\,\partial x_{n}}}\\\\{\frac {\partial ^{2}f}{\partial x_{2}\,\partial x_{1}}}&{\frac {\partial ^{2}f}{\partial x_{2}^{2}}}&\cdots &{\frac {\partial ^{2}f}{\partial x_{2}\,\partial x_{n}}}\\\\\vdots &\vdots &\ddots &\vdots \\\\{\frac {\partial ^{2}f}{\partial x_{n}\,\partial x_{1}}}&{\frac {\partial ^{2}f}{\partial x_{n}\,\partial x_{2}}}&\cdots &{\frac {\partial ^{2}f}{\partial x_{n}^{2}}}\end{bmatrix}}} אם בנקודה   a ∈ R n {\displaystyle \ a\in \mathbb {R} ^{n}} הגרדיאנט של   f {\displaystyle \ f} הוא וקטור האפס, הנקודה   a {\displaystyle \ a} נקראת נקודה קריטית. ממשפט פרמה נובע כי כל נקודת קיצון היא נקודה קריטית, אולם ההפך אינו נכון בהכרח - לא כל נקודה קריטית היא נקודת קיצון, והמשפט אינו נותן דרך לבדוק זאת. במקרים רבים ניתן להכריע באמצעות ההסיאן אם נקודה קריטית היא נקודת קיצון. בהינתן נקודה קריטית   a {\displaystyle \ a} יש לחשב את מטריצת ההסיאן של הפונקציה בנקודה זו. כעת בודקים את סימנם של הערכים העצמיים של המטריצה, ומתקיים אחד מבין המקרים הבאים: אם כל הערכים העצמיים של המטריצה חיוביים (מטריצה כזו נקראת מטריצה חיובית לחלוטין) הנקודה היא נקודת מינימום. אם כל הערכים העצמיים של המטריצה שליליים (מטריצה כזו נקראת מטריצה שלילית לחלוטין) הנקודה היא נקודת מקסימום. אם קיים למטריצה ערך עצמי חיובי וערך עצמי שלילי, הנקודה היא נקודת אוכף. אם למטריצה קיים ערך עצמי 0 ושאר הערכים עצמיים הם בעלי אותו סימן, לא ניתן לדעת בוודאות בעזרת מבחן זה האם הנקודה היא נקודת מינימום, מקסימום, או אוכף. נשים לב כי מבחן זה מכליל את הבדיקה עבור פונקציה של משתנה אחד: אם הנגזרת השנייה של הפונקציה חיובית בנקודת קיצון, זוהי נקודת מינימום. אם היא שלילית, זוהי נקודת מקסימום, ואם היא שווה לאפס, לא ניתן לדעת באמצעות מבחן זה האם זוהי נקודת מינימום, מקסימום או נקודת פיתול. במקרה של פונקציות בשניים או בשלושה משתנים קיימת שיטה נוספת, השקולה לזו שהוזכרה, והיא שימוש בדטרמיננטה של המטריצה. עבור פונקציה בשני משתנים - אם הדטרמיננטה גדולה מאפס, הנקודה היא אכן נקודת קיצון. סוגה ייקבע לפי הנגזרת השנייה לפי המשתנה הראשון (כלומר הביטוי שנמצא בתא השמאלי ביותר למעלה במטריצה): אם היא גדולה מאפס - הנקודה היא נקודת מינימום, ואם קטנה מאפס - היא נקודת מקסימום. אם הדטרמיננטה קטנה מאפס, הנקודה היא נקודת אוכף. אם הדטרמיננטה שווה לאפס, לא ניתן לקבוע לפי מבחן זה את סוג הנקודה. עבור פונקציה בשלושה משתנים - אם כל המינורים הראשיים (מינור ראשי הוא מינור שמתקבל מבחירת ת״א על האלכסון) גדולים מאפס - זוהי נקודת מינימום מקומי. אם סימניהם של המינורים הראשיים הולכים לסירוגין (-,+,-…) - זוהי נקודת מקסימום מקומי. אם זו לא אחת מהאפשרויות הקודמות, וכל המינורים שונים מאפס - זוהי נקודת אוכף. אחרת - לא ניתן לקבוע את סוג הנקודה. נתונה הפונקציה: f ( x , y ) = x 2 4 + y 4 − x 2 − 2 y 2 {\displaystyle f(x,y)={\frac {x^{2}}{4}}+y^{4}-x^{2}-2y^{2}} ראשית נחפש נקודות החשודות להיות נקודות קיצון, באמצעות השוואת הנגזרות החלקיות לאפס, ומציאת הערכים שמקיימים זאת: ∂ f ∂ x = 2 x 3 − 2 x = 0 ⟹ x ( x 2 − 1 ) = 0 ⟹ x = 0 , − 1 , 1 {\displaystyle {\frac {\partial f}{\partial x}}=2x^{3}-2x=0\implies x(x^{2}-1)=0\implies x=0,-1,1} ∂ f ∂ y = 4 y 3 − 4 y = 0 ⟹ y ( y 2 − 1 ) = 0 ⟹ y = 0 , − 1 , 1 {\displaystyle {\frac {\partial f}{\partial y}}=4y^{3}-4y=0\implies y(y^{2}-1)=0\implies y=0,-1,1} כלומר קיבלנו 9 נקודות החשודות להיות נקודות קיצון, שהן כל הצירופים האפשריים של ערכי x {\displaystyle x} ו- y {\displaystyle y} שמצאנו. ההסיאן יהיה: H ( f ) = [ ∂ 2 f ∂ x 2 ∂ 2 f ∂ x ∂ y ∂ 2 f ∂ y ∂ x ∂ 2 f ∂ y 2 ] = [ 6 x 2 − 2 0 0 12 y 2 − 4 ] {\displaystyle H(f)={\begin{bmatrix}{\frac {\partial ^{2}f}{\partial x^{2}}}&{\frac {\partial ^{2}f}{\partial x\partial y}}\\{\frac {\partial ^{2}f}{\partial y\partial x}}&{\frac {\partial ^{2}f}{\partial y^{2}}}\end{bmatrix}}={\begin{bmatrix}6x^{2}-2&0\\0&12y^{2}-4\end{bmatrix}}} הדטרמיננטה של ההסיאן גדולה מאפס בנקודות: ( 0 , 0 ) , ( 1 , − 1 ) , ( 1 , 1 ) , ( − 1 , − 1 ) , ( − 1 , 1 ) {\displaystyle (0,0),(1,-1),(1,1),(-1,-1),(-1,1)} . אלה הן נקודות קיצון. מתוכן, ∂ 2 f ∂ x 2 {\displaystyle {\frac {\partial ^{2}f}{\partial x^{2}}}} קטן מאפס בנקודה ( 0 , 0 ) {\displaystyle (0,0)} - כלומר זוהי נקודת מקסימום. בשאר הנקודות בהן הדטרמיננטה גדולה מאפס, ∂ 2 f ∂ x 2 {\displaystyle {\frac {\partial ^{2}f}{\partial x^{2}}}} גדול מאפס, כלומר אלו הן נקודות מינימום. מטריצת הסיאן, באתר MathWorld (באנגלית)