שדה formula_4 הוא מבנה אלגברי הכולל לפחות שני איברים, 0 ו-1 בעל שתי פעולות בינאריות, המסומנות ב-"formula_5" ו-"formula_6" (חיבור וכפל) המקיים לכל formula_7 ב-formula_8:
מאקסיומות אלה נובעות כמה תכונות בסיסיות, כדוגמת יחידות של האיברים הנייטרליים (כלומר, התכונה 'formula_22 לכל formula_12' מייחדת את איבר האפס, וכן לאיבר היחידה), יחידות הנגדי וההפכי והעובדה שמכפלת כל איבר ב-0 שווה ל-0.
האלגברה הלניארית אינה עוסקת בשדות עצמם (לשם כך נועדה תורת השדות). רוב השאלות הבסיסיות באלגברה ליניארית אינן רגישות לשדה, וההתנהגות תהיה דומה למדי עבור שדות שונים. אולם חלק מההגדרות והתוצאות דורשות טיפול שונה בשדות עם מציין חיובי (בעיקר עבור מציין 2). כמו כן חלקים מתקדמים יותר של התורה תלויים בכך שהשדה סגור אלגברית, ושונים מהותית עבור שדות שאינם כאלה.
מערכת משוואות ליניאריות.
מערכת משוואות ליניארית זו מערכת משוואות מהצורה:
כאשר formula_25 הם המשתנים, formula_26 הם המקדמים של המשתנים ו-formula_27 הם המקדמים החופשיים. כל אלה הם איברים בשדה formula_4, ולרוב השדה הזה הוא המספרים הממשיים. אם formula_25 מקיימים את המשוואות, הם והצגתם כ-formula_30 נקראים פתרון.
הבעיה המכוננת של האלגברה הליניארית היא לתאר ולחקור את המבנה והסימטריות של אוסף הפתרונות למערכת משוואות כזאת. מערכת משוואות בה המקדמים החופשיים מתאפסים נקראת הומוגנית.
דירוג.
שתי מערכות משוואות ליניאריות נקראות שקולות אם יש להן אותם פתרונות. אפשר "להגיע" ממערכת אחת למערכת שקולה באמצעות שימוש חוזר של 3 פעולות:
ביצוע של הפעולות הללו תביא מערכת משוואות שקולה.
נאמר שמערכת משוואות היא מדורגת קנונית אם:
אחד המשפטים הבסיסיים של אלגברה ליניארית אומר שכל מערכת משוואות ליניארית ניתן להביא לצורה מדורגת קנונית (ראו שיטת הדירוג של גאוס), ומכאן נובעות הרבה תכונות של מערכות משוואות ליניאריות, ביניהן שלכל מערכת בשדה אינסופי יש 0, 1, או אינסוף פתרונות.
מרחב וקטורי.
המרחב formula_31.
כאמור פתרון של מערכת משוואות ליניאריות הוא n-יה של מספרים ב-F. ניתן לאגד את אוסף כל הn-יות האלה לקבוצה אחת המסומנת ב-formula_31. ניתן לחשוב על formula_31 כאל אובייקט גאומטרי. למשל, עבור formula_34 ו - formula_35 מקבלים את הישר, המישור והמרחב (בהתאמה). הקבוצה formula_31 מהווה אבטיפוס בסיסי למרחבים הוקטוריים. ההגדרה של מרחב וקטורי ממצא מקבוצה זאת את המבנה והתכונות שלה והופכת אותם למושג מופשט.
אוסף הפתרונות של מערכת משוואת הומגנית.
אוסף הפתרונות של מערכת משוואת הומגנית הוא תת קבוצה של formula_31 המהווה גם היא דוגמה למרחב וקטורי. דוגמה זאת מספקת צעד נוסף לקראת ההגדה הכללית של מרחב וקטורי.
הגדרה של מרחב וקטורי.
מרחב וקטורי (או בשמו הנוסף מרחב ליניארי) formula_38 מעל שדה formula_4 (כגון שדה המספרים הממשיים או שדה המספרים המרוכבים) זהו מבנה אלגברי בעל 2 פעולות בינאריות "formula_5" ו-"formula_6" המקיים מספר תכונות. איברי המרחב הווקטורי נקראים וקטורים ואיברי השדה נקראים סקלרים. הפעולה הראשונה נקראת "חיבור וקטורי" והשנייה נקראת "כפל בסקלר", מכיוון שהפעולה הראשונה היא formula_42 והשנייה formula_43. התכונות הן:
לדוגמה, formula_58 הוא מרחב וקטורי מעל formula_4. כל מרחב וקטורי מממד סופי איזומורפי למרחב מצורה זו.
צירוף ליניארי, בסיס ותת-מרחב.
תת-מרחב ליניארי, בצורה לא פורמלית, הוא מרחב וקטורי שנמצא בתוך מרחב וקטורי, ביחס לאותן הפעולות. כלומר, אם ניקח 2 איברים בתת-המרחב, סכומם בתת-המרחב יהיה בדיוק כמו סכום במרחב עצמו, ואותו דבר עבור כפל בסקלר. מכיוון שפעולות אלו הן אותו דבר, הן כבר מקיימות את כל האקסיומות של קומוטטביות, אסוציאטיביות, וכו', מה שאומר שהתכונות שצריכות להתקיים בתת-קבוצה של מרחב וקטורי formula_38 כדי שהוא יהי תת-מרחב ליניארי formula_61 זה שלכל formula_62 יתקיים formula_63 גם כן. תכונות אלו נקראות "סגירות ביחס לחיבור" ו"סגירות ביחס לכפל בסקלר" בהתאמה.
במרחב וקטורי formula_38 מעל שדה formula_4, הווקטור formula_66 מוגדר להיות צירוף ליניארי של אוסף הווקטורים formula_67 אם formula_68 עבור formula_69 כלשהם (המקדמים). הפרישה (span) של סדרת (אוסף) וקטורים כזו היא אוסף כל הצירופים הליניאריים שלה, מה שיוצר תת-מרחב. בהינתן סדרת וקטורים formula_67, ניתן להציג את formula_45 כצירוף ליניארי שלהם על ידי מקדמי 0. אם זאת הדרך היחידה שבה ניתן להציג את formula_45 כצירוף ליניארי של הסדרה, הסדרה תיקרא בלתי תלויה ליניארית. בסיס של מרחב וקטורי formula_38 זו סדרת וקטורים בת"ל (בלתי תלויה ליניארית) שפורשת את formula_38. בסיסים מקיימים את התכונה שכל סדרה פורשת ניתן לצמצם לבסיס וכל סדרה בת"ל ניתן להשלים לבסיס.
לכל שני בסיסים (בהנחה והם סופיים) של מרחב וקטורי formula_38 יש אותו גודל, המוגדר להיות המימד של formula_38, ומסומן ב-formula_77 או ב-formula_78. בהינתן בסיס formula_79 של מרחב וקטורי formula_38 מעל שדה formula_4, נוכל ליצור קואורדינטות: הווקטור עם הקואורדינטות formula_82 יהיה הווקטור formula_83. לכל וקטור יש קואורדינטות בגלל שהסדרה פורשת, והקורדינטות הן יחידות בגלל שהסדרה בת"ל. לכן, קורדינאטות מוגדרות ביחידות לכל וקטור, מה שנותן דרך לייצג כל וקטור כ-formula_78 סקלרים.
עבור שני תת-מרחבים של formula_38, formula_86 ו-formula_87, נגדיר את סכומם להיות formula_88, ובצורה כללית יותר, עבור formula_89 תתי מרחבים, סכומם יהיה formula_90. נשים לב, כי סכום של תתי-מרחב הוא תת-מרחב בעצמו.
בניסיון לחישוב מימד של סכום תתי מרחבים, נמצאה נוסחה הנקראת משפט הממדים:
העתקות ליניאריות.
בהינתן שני מרחבים וקטוריים formula_38 ו-formula_93 מעל אותו שדה formula_4, העתקה ליניארית (הנקראת גם טרנספורמציה ליניארית או אופרטור ליניארי) מ-formula_38 ל-formula_93 היא פונקציה formula_97 שהיא סגורה ביחס לחיבור ולכפל בסקלר, כלומר:
לכל formula_100.
אם העתקה ליניארית formula_97 היא חח"ע ועל, נאמר שהיא איזומורפיזם, ושהמרחבים formula_38 ו-formula_93 הם איזומורפיים זה לזה. אם שני מרחבים (מעל אותו שדה) הם איזומורפיים זה לזה, הדבר שקול להיותם שווי מימד.
לכל העתקה ליניארית מוגדרים שני תת-מרחבים: גרעין ההעתקה formula_104 (כל הווקטורים שנשלחים ל-0), ותמונת ההעתקה formula_105 (כמו תמונה של פונקציה רגילה). לא קשה להוכיח ששניהם תת-מרחבים. יש קשר בין הממדים שלהם, הנקרא משפט הממדים:
formula_106.
ההעתקה T היא חח"ע אםם גרעינה מתאפס. היא על אםם תמונתה היא כל W.
מטריצות.
מטריצה (מעל שדה formula_4) היא מערך של סקלרים ב-formula_4, בצורה של שורות ועמודות. דוגמה פשוטה למטריצה מעל הממשיים היא formula_109. שמותיהן לרוב מסומנות באותיות לטיניות גדולות.
באופן כללי, מטריצה היא דרך טובה מאוד להציג אינפורמציה. שני שימושים בולטים הם הצגה של העתקה ליניארית באמצעות מטריצות, והצגה של תבנית ריבועית באמצעות מטריצה סימטרית.
לכל formula_110 העתקה ליניארית, כך ש-formula_111 ו-formula_112, בהינתן שני בסיסים קבועים ל-formula_38 ו-formula_93, אפשר להתאים להעתקה הליניארית מטריצה מסדר formula_115 באמצעות שימושים בקואורדינטות. ברוב המקרים, מתעניינים בהעתקות formula_116 ומשתמשים באותו הבסיס פעמיים, כדי ליצור מטריצה ריבועית. באופן הזה, כל מושג שמוגדר להעתקות ליניאריות ניתן להגדיר למטריצות ולהפך.
נשים לב, שהתאמה בין העתקות למטריצות תלויה בבסיס, מה שיוצר מצב שבו העתקה אחת יכולה להתאים להרבה מטריצות, ומטריצה אחת יכולה להתאים להרבה העתקות. כדי להתמודד עם הבעיה הזאת, הוגדר מושג נוסף: 2 מטריצות ריבועיות נקראות דומות אם הן מייצגות אותה העתקה ליניארית בבסיסים שונים (אותו בסיס ל-formula_38 פעמיים). בכל מקרה, הייצוג הזה יוצר קשר עמוק מאוד בין העתקות ליניאריות ומטריצות.
למשל, בהינתן formula_118 כך שהמטריצה שמייצגת של formula_119 היא formula_120 ושל formula_121 היא formula_122, המטריצה formula_123 מוגדרת להיות המטריצה המייצגת של formula_124 (ביחס לבסיסים הנתונים). אחרי חישוב קל, מוצאים גם נוסחה מפורשת עבור כפל מטריצות. אפשר להגדיר כפל מטריצות באמצעות הנוסחה המפורשת, אבל הרבה יותר פשוט לאמר שזו מטריצה מייצגת של הרכבת טרנספורמציות.
דטרמינטה.
חלק מרכזי מתורת המטריצות היא הדטרמיננטה. דטרמיננטה היא פונקציה מקבוצת המטריצות הריבועית לשדה מעליו הן מוגדרות. מבחינה גאומטרית, אם ניקח מטריצה formula_125 ונשרטט את formula_126 הווקטורים (שורות המטריצה) ב-formula_58, נוכל להשלים אותם למקבילון. הדטרמיננטה של המטריצה היא "הנפח המכוון של המקבילון" (זוהי ההגדרה של נפח מכוון).
לדטרמיננטה יש תכונות רבות. במקרים רבים, כשמנסים לברר משהו מסוים בפיזיקה, מדעי מחשב או תחומי מדע שונים, אפשר לחשב דטרמיננטה ולמצוא תשובה. קודם כל, היא מקיימת את התכונה שמטריצה ריבועית formula_120 היא מטריצה הפיכה אם ורק אם formula_129. מזה נובע, שסדרת וקטורים (שאורכה הוא כמו גודל ממדה) היא בלתי תלויה ליניארית אם ורק אם הדטרמיננטה של מטריצה ששורותיה הן הווקטורים לא מתאפסת.
מרחב דואלי.
בניה חשובה במרחבים ליניאריים היא "המרחב הדואלי". בניה זאת מתאימה לכל מרחב ליניארי מרחב אחר. הבניה מהווה ארכי-טופוס למושג דואליות שמופיע בתחומים רבים של המתמטיקה.