נורמה של מטריצות

במתמטיקה, נורמה של מטריצות היא נורמה הפועלת על מטריצות. לנורמה של מטריצות יש חשיבות רבה בהגדרת מטריצות "קרובות", מה שמאפשר להגדיר את מושג הגבול וכן התכנסות של סדרה של מטריצות. נורמות מסוג זה משמשות בתחום האופטימיזציה ותורת הגרפים. עבור כל מרחב וקטורי כללי מעל שדה המספרים הממשיים או שדה המספרים המרוכבים ניתן להגדיר נורמה ובכך להפוך אותו למרחב נורמי. מרחב המטריצות K n × m {\displaystyle K^{n\times m}} , כאשר K {\displaystyle K} הוא קבוצת המספרים הממשיים R {\displaystyle \mathbb {R} } או קבוצת המספרים המרוכבים C {\displaystyle \mathbb {C} } , הוא מרחב שכזה ועל-כן ניתן להגדיר עליו נורמה ולהפוך אותו למרחב נורמי. במקרה שבו n = m {\displaystyle n=m} , ניתן להגדיר על מרחב המטריצות גם פעולת כפל באמצעות כפל מטריצות. במקורות מסוימים מגדירים את הנורמה של מטריצות להיות כזאת שמקיימת בנוסף לאי-שוויון המשולש לתוצאת חיבור של מטריצות (תכונה הנקראת תת-חיבוריות), גרסה דומה של אי-שוויון משולש לתוצאת כפל של מטריצות (תכונה הנקראת תת-כפליות). תכונת התת-כפליות שימושית מאוד במקרים רבים, למשל בהוכחת נוסחת גלפנד עבור הרדיוס הספקטרלי. מאחר שהמרחב K n × m {\displaystyle K^{n\times m}} הוא מממד סופי, כל הנורמות המוגדרות עליו שקולות זו לזו. אי לכך, כל הנורמות המוגדרות על מרחב מטריצות כלשהו מייצרות את אותה הטופולוגיה וכל סדרה המתכנסת לפי אחת מהן מתכנסת אל אותו הגבול על פי נורמה אחרת. אף על פי כן, הגדרות שונות לנורמה על מרחב המטריצות משמשות במקרים שונים. עבור המרחב K n × m {\displaystyle K^{n\times m}} ( K = R {\displaystyle K=\mathbb {R} } או K = C {\displaystyle K=\mathbb {C} } ) הפונקציה ‖ ⋅ ‖ : K n × m → R {\displaystyle \|\cdot \|:K^{n\times m}\to \mathbb {R} } תקרא נורמה אם ורק אם היא מקיימת את התנאים הבאים: חיוביות – לכל A ∈ K n × m {\displaystyle A\in K^{n\times m}} מתקיים כי ‖ A ‖ ≥ 0 {\displaystyle \|A\|\geq 0} ו- ‖ A ‖ = 0 {\displaystyle \|A\|=0} אם ורק אם   A = 0 {\displaystyle \ A=\mathbf {0} } , כאשר 0 {\displaystyle \mathbf {0} } היא מטריצת האפס. הומוגניות – לכל A ∈ K n × m {\displaystyle A\in K^{n\times m}} ולכל λ ∈ K {\displaystyle \lambda \in K} מתקיים כי ‖ λ A ‖ = | λ | ‖ A ‖ {\displaystyle \|\lambda A\|=|\lambda |\|A\|} אי-שוויון המשולש או תת-חיבוריות – לכל A , B ∈ K n × m {\displaystyle A,B\in K^{n\times m}} מתקיים ‖ A + B ‖ ≤ ‖ A ‖ + ‖ B ‖ {\displaystyle \|A+B\|\leq \|A\|+\|B\|} במקרה בו n = m {\displaystyle n=m} נאמר כי הנורמה היא נורמה תת-כפלית אם בנוסף לשלוש תכונות הנורמה הסטנדרטיות מתקיים: לכל A , B ∈ K n × m {\displaystyle A,B\in K^{n\times m}} מתקיים ‖ A B ‖ ≤ ‖ A ‖ ‖ B ‖ {\displaystyle \|AB\|\leq \|A\|\|B\|} בהינתן הנורמות ‖ ⋅ ‖ α {\displaystyle \|\cdot \|_{\alpha }} ו- ‖ ⋅ ‖ β {\displaystyle \|\cdot \|_{\beta }} המוגדרות על המרחבים הווקטוריים K n {\displaystyle K^{n}} ו- K m {\displaystyle K^{m}} בהתאמה, נאמר כי הנורמה ‖ ⋅ ‖ {\displaystyle \|\cdot \|} עקבית עם הנורמות ‖ ⋅ ‖ α {\displaystyle \|\cdot \|_{\alpha }} ו- ‖ ⋅ ‖ β {\displaystyle \|\cdot \|_{\beta }} אם בנוסף לשלוש תכונות הנורמה הסטנדרטיות מתקיים: לכל A ∈ K n × m {\displaystyle A\in K^{n\times m}} ולכל v ∈ K n {\displaystyle v\in K^{n}} מתקיים ‖ A v ‖ β ≤ ‖ A ‖ ‖ v ‖ α {\displaystyle \|Av\|_{\beta }\leq \|A\|\|v\|_{\alpha }} מלבד התכונות הסטנדרטיות של נורמה עבור מרחב וקטורי כללי, נורמה של מטריצה יכולה להקיים גם את התכונות הבאות: נוסחת גלפנד נקראת על שמו של המתמטיקאי ישראל גלפנד והיא נכונה עבור נורמות תת-כפליות. על פי נוסחת גלפנד, לכל נורמה תת-כפלית ‖ ⋅ ‖ {\displaystyle \|\cdot \|} המוגדרת על המרחב K n × n {\displaystyle K^{n\times n}} ולכל A ∈ K n × n {\displaystyle A\in K^{n\times n}} מתקיים: ρ ( A ) = lim k → ∞ ‖ A k ‖ 1 k {\displaystyle \rho (A)=\lim _{k\to \infty }{\|A^{k}\|^{\frac {1}{k}}}} כאשר ρ ( A ) {\displaystyle \rho (A)} הוא הרדיוס הספקטרלי של A {\displaystyle A} . הרדיוס הספקטרלי הוא הערך המוחלט הגדול ביותר של ערך עצמי של המטריצה A {\displaystyle A} . עבור נורמה ‖ ⋅ ‖ {\displaystyle \|\cdot \|} המוגדרת על המרחב K n × n {\displaystyle K^{n\times n}} ומתואמת עם נורמה כלשהי על המרחב הווקטורי K n {\displaystyle K^{n}} , ניתן להראות כי לכל A ∈ K n × n {\displaystyle A\in K^{n\times n}} מתקיים אי-השוויון ρ ( A ) ≤ ‖ A ‖ {\displaystyle \rho (A)\leq \|A\|} . באופן ספציפי, 1 ≤ ‖ I ‖ {\displaystyle 1\leq \|I\|} , כאשר I {\displaystyle I} היא מטריצת היחידה. המשמעות של תכונה זו היא שעבור נורמה מתואמת ותת-כפלית, הגבול במשפט גלפנד הוא גבול של סדרה מונוטונית יורדת. ערך מורחב – נורמה של אופרטור בהינתן נורמות ‖ ⋅ ‖ α {\displaystyle \|\cdot \|_{\alpha }} ו- ‖ ⋅ ‖ β {\displaystyle \|\cdot \|_{\beta }} המוגדרות על המרחבים הווקטוריים K n {\displaystyle K^{n}} ו- K m {\displaystyle K^{m}} בהתאמה, ניתן להגדיר את הנורמה האופרטורית לכל מטריצה A ∈ K n × m {\displaystyle A\in K^{n\times m}} : ‖ A ‖ op := sup 0 ≠ v ∈ K n ‖ A v ‖ β ‖ v ‖ α = sup v ∈ K n , ‖ v ‖ α = 1 ‖ A v ‖ β {\displaystyle \|A\|_{\operatorname {op} }:=\sup _{0\neq v\in K^{n}}{\frac {\|Av\|_{\beta }}{\|v\|_{\alpha }}}=\sup _{v\in K^{n},\|v\|_{\alpha }=1}{\|Av\|_{\beta }}} מאחר שהמרחבים K n {\displaystyle K^{n}} ו- K m {\displaystyle K^{m}} ממד סופי, כל אופרטור ליניארי בין שני מרחבים אלו חסום, ועל כן ‖ A ‖ op {\displaystyle \|A\|_{\operatorname {op} }} מוגדר היטב. על-פי הגדרת הנורמה האופרטורית בהכרח הנורמה עקבית עם הנורמות ‖ ⋅ ‖ α {\displaystyle \|\cdot \|_{\alpha }} ו- ‖ ⋅ ‖ β {\displaystyle \|\cdot \|_{\beta }} . כמו כן, בהינתן הנורמות ‖ ⋅ ‖ α {\displaystyle \|\cdot \|_{\alpha }} , ‖ ⋅ ‖ β {\displaystyle \|\cdot \|_{\beta }} ו- ‖ ⋅ ‖ γ {\displaystyle \|\cdot \|_{\gamma }} המוגדרות על המרחבים K n {\displaystyle K^{n}} , K m {\displaystyle K^{m}} ו- K l {\displaystyle K^{l}} בהתאמה, ובהינתן A ∈ K n × m {\displaystyle A\in K^{n\times m}} ו- B ∈ K m × l {\displaystyle B\in K^{m\times l}} , מתקיים אי-השוויון: ‖ A B ‖ op ≤ ‖ A ‖ op ‖ B ‖ op {\displaystyle \|AB\|_{\operatorname {op} }\leq \|A\|_{\operatorname {op} }\|B\|_{\operatorname {op} }} הדבר נכון בפרט כאשר n = m = l {\displaystyle n=m=l} , ולכן הנורמה האופרטורית היא נורמה תת-כפלית. במקרה הפרטי בו ‖ ⋅ ‖ α {\displaystyle \|\cdot \|_{\alpha }} ו- ‖ ⋅ ‖ β {\displaystyle \|\cdot \|_{\beta }} הם שניהם הנורמה של מרחב L p {\displaystyle L^{p}} כלשהו כאשר p > 1 {\displaystyle p>1} , נהוג לסמן את הנורמה האופרטורית בסימון ‖ ⋅ ‖ p {\displaystyle \|\cdot \|_{p}} . ניתן להוכיח כי: ‖ A ‖ 1 = max 1 ≤ j ≤ m ∑ i = 1 n | A i j | {\displaystyle \|A\|_{1}=\max _{1\leq j\leq m}{\sum _{i=1}^{n}{|A_{ij}|}}} ‖ A ‖ ∞ = max 1 ≤ i ≤ n ∑ j = 1 m | A i j | {\displaystyle \|A\|_{\infty }=\max _{1\leq i\leq n}{\sum _{j=1}^{m}{|A_{ij}|}}} כלומר, הנורמה ‖ ⋅ ‖ 1 {\displaystyle \|\cdot \|_{1}} מייצגת את סכום הערכים המוחלטים על גבי עמודה הגדול ביותר ו- ‖ ⋅ ‖ ∞ {\displaystyle \|\cdot \|_{\infty }} מייצגת את סכום הערכים המוחלטים על גבי שורה הגדול ביותר. כמו כן: ‖ A ‖ 2 = λ max ( A ∗ A ) = σ max ( A ) {\displaystyle \|A\|_{2}={\sqrt {\lambda _{\operatorname {max} }(A^{*}A)}}=\sigma _{\operatorname {max} }(A)} כאשר A ∗ {\displaystyle A^{*}} היא המטריצה הצמודה ההרמיטית של A {\displaystyle A} , λ max {\displaystyle \lambda _{\operatorname {max} }} מחזירה את הערך העצמי הגדול ביותר של המטריצה ו- σ max {\displaystyle \sigma _{\operatorname {max} }} מחזירה את הערך הסינגולרי הגדול ביותר של המטריצה. הנורמה ‖ ⋅ ‖ 2 {\displaystyle \|\cdot \|_{2}} נקראת לעיתים הנורמה הספקטרלית. נורמת פרובניוס (Frobenius) על מטריצה A ∈ K n × m {\displaystyle A\in K^{n\times m}} מסומנת בתור ‖ A ‖ F {\displaystyle \|A\|_{F}} ומוגדרת להיות: ‖ A ‖ F := ∑ i = 1 n ∑ j = 1 m | A i j | 2 {\displaystyle \|A\|_{F}:={\sqrt {\sum _{i=1}^{n}{\sum _{j=1}^{m}{|A_{ij}|^{2}}}}}} באופן שקול ניתן להראות כי: ‖ A ‖ F = tr ⁡ ( A A ∗ ) = ∑ i = 1 min ( n , m ) | σ i ( A ) | 2 {\displaystyle \|A\|_{F}={\sqrt {\operatorname {tr} (AA^{*})}}={\sqrt {\sum _{i=1}^{\min(n,m)}{|\sigma _{i}(A)|^{2}}}}} כאשר גם כאן A ∗ {\displaystyle A^{*}} היא המטריצה הצמודה ההרמיטית של A {\displaystyle A} ו- σ i {\displaystyle \sigma _{i}} מחזירה את הערך הסינגולרי ה- i {\displaystyle i} של המטריצה. מטריצת פרובניוס היא נורמה תת-כפלית. כמו כן, ניתן להראות כי אינווריאנטית למכפלה במטריצות אוניטריות. כלומר, לכל זוג מטריצות אוניטריות U ∈ K n × n , V ∈ K m × m {\displaystyle U\in K^{n\times n},V\in K^{m\times m}} מתקיים כי: ‖ U A V ‖ F = ‖ A ‖ F {\displaystyle \|UAV\|_{F}=\|A\|_{F}} נורמת פרובניוס היא מקרה פרטי של נורמת הילברט-שמידט עבור מרחב הילברט מממד סופי. נורמת p {\displaystyle p} של שאטן (Schatten) על מטריצה A ∈ K n × m {\displaystyle A\in K^{n\times m}} מסומנת בתור ‖ A ‖ p {\displaystyle \|A\|_{p}} (יש להבדיל בין נורמת שאטן לנורמה האופרטורית, למרות שהסימון של שתיהן זהה) ומוגדרת להיות: ‖ A ‖ p := ( ∑ i = 1 min ( n , m ) | σ i ( A ) | p ) 1 p {\displaystyle \|A\|_{p}:=\left(\sum _{i=1}^{\min(n,m)}{|\sigma _{i}(A)|^{p}}\right)^{\frac {1}{p}}} ניתן לראות כי עבור p = 2 {\displaystyle p=2} מתקבלת נורמת פרובניוס. עבור כל זוג מטריצות A ∈ K n × m , B ∈ K m × l {\displaystyle A\in K^{n\times m},B\in K^{m\times l}} ו- p , q > 1 {\displaystyle p,q>1} המקיימים 1 p + 1 q = 1 {\displaystyle {\frac {1}{p}}+{\frac {1}{q}}=1} , מתקיים ש: ‖ A B ‖ 1 ≤ ‖ A ‖ p ‖ B ‖ q {\displaystyle \|AB\|_{1}\leq \|A\|_{p}\|B\|_{q}} כמו כן עבור A ∈ K n × m {\displaystyle A\in K^{n\times m}} ו- 1 ≤ p ≤ q {\displaystyle 1\leq p\leq q} מתקיים: ‖ A ‖ 1 ≥ ‖ A ‖ p ≥ ‖ A ‖ q {\displaystyle \|A\|_{1}\geq \|A\|_{p}\geq \|A\|_{q}} מדיה וקבצים בנושא נורמה של מטריצות בוויקישיתוף נורמה של מטריצות, באתר MathWorld (באנגלית) Simon Foucart, Matrix Norms and Spectral Radii, Drexel University, ‏2013-08-9 (באנגלית) Eric W. Weisstein, Matrix Norm, mathworld.wolfram.com (באנגלית) Tristan Giron, The Gelfand Formula, University of Oxford (באנגלית) Anne Greenbaum, Norms on Operators, University of Washington, ‏2008 (באנגלית) Jean H. Gallier, Vector Norms and Matrix Norms, University of Pennsylvania, ‏2022-10-22 (באנגלית) Eric W. Weisstein, Spectral Norm, mathworld.wolfram.com (באנגלית) Eric W. Weisstein, Frobenius Norm, mathworld.wolfram.com (באנגלית) Chien-Hao Huang, Jein-Shan Chen, Chu-Chin Hu, The Schatten p-Norm on Rn (באנגלית)