שרשרת מרקוב

שרשרת מרקוב (באנגלית: Markov Chain) היא מודל הסתברותי המשמש בדרך-כלל לתיאור התפתחות של תהליכים כסדרה של מצבים. שרשראות מרקוב הן כלי שימושי ביותר לתיאור תהליכים במגוון תחומים, כגון: תורת המשחקים, פיזיקה, עיבוד אותות וניתוח שפות טבעיות. נראה שהמתמטיקאי הרוסי אנדריי מרקוב, שחקר אותן לראשונה בתחילת המאה ה-20 ושעל שמו הן קרויות, התעניין בהן בשל הערך העיוני שלהן לתורת ההסתברות - הן איפשרו לו להכליל את משפט הגבול המרכזי למשתנים תלויים. כדוגמה, ניתן לתאר דגם פשטני של מזג האוויר כשרשרת מרקוב. בניית הדגם יוצאת מהפשטה על פיה מזג האוויר מתואר במשך שבוע כסדרה של 7 מצבים (מצב לכל יום): בהיר, מעונן או גשום. על מנת להפוך תיאור זה למודל הסתברותי, יש להגדיר התפלגות במרחב הסדרות, כלומר להתאים הסתברות להתרחשותה של כל סדרה של 7 מצבים. מודל זה, למשל יכול להתאים לסדרה: "גשום, גשום, מעונן, בהיר, בהיר, בהיר, בהיר" הסתברות 0.01, ולסדרה הקבועה "גשום, גשום, ... גשום" הסתברות 0.2, וכך הלאה. אנדריי מרקוב חקר שרשראות מרקוב בתחילת המאה ה-20. מרקוב התעניין בחקירת הרחבות של רצפים אקראיים בלתי תלויים. למרקוב הייתה מוטיבציה לחקור תחום זה בעקבות ויכוח עם פאבל נקראסוב (אנ') שטען שאי-תלות היא תנאי הכרחי עבור החוק החלש של המספרים הגדולים. במאמר הראשון שלו על שרשראות מרקוב, שפורסם ב-1906, מרקוב הראה שתחת תנאים מסוימים, הממוצעים של תוצאות השרשרת יתכנסו לווקטור ערכים, ועל ידי כך הוכח החוק החלש של המספרים הגדולים ללא הנחת אי-תלות, שנתפסה באותה העת כתנאי להוכחה. ב-1912 חקר אנרי פואנקרה שרשראות מרקוב על קבוצות סופיות במטרה לחקור ערבוב קלפים. שימושים מוקדמים נוספים בשרשראות מרקוב כוללים מודל דיפוזיה, שהוצג על ידי פול (אנ') וטטיאנה אהרנפסט (אנ') ב-1907 ותהליך מסתעף, שהוצג על ידי פרנסיס גולטון והנרי ויליאם ווטסון (אנ') ב-1873, לפני מחקרו של מרקוב. לאחר עבודתם של ווטסון וגאלטון, התגלה שהתהליכים המסתעפים שהם חקרו נחקרו כשלושה עשורים קודם לכן בצורה בלתי תלויה על ידי אירנה-ז'ול ביינאמה. דגם מוגדר כדגם מרקובי ומערכת מוגדרת כמערכת מרקובית אם כל המידע בהווה, היכול לשמש לניבוי המצבים העתידיים, מתמצה במצב הנוכחי. משמעותו של תנאי זה, היא שאין צורך לזכור את מצבי העבר, שכן מידע זה לא יועיל בניבוי העתיד. אינטואיטיבית, מודל מרקובי מתאר מערכת "חסרת זיכרון": מערכת שבה אין השפעות עקיפות של מצבים קודמים בסדרה, על מצבים עתידיים (השפעות "עקיפות" הן השפעות שאינן באות לידי ביטוי במצב הנוכחי). שרשרת מרקוב היא תהליך סטוכסטי, כלומר סדרה של משתנים מקריים X 0 , X 1 , X 2 , … {\displaystyle X_{0},X_{1},X_{2},\ldots } המקיימת את תכונת מרקוב: ההתפלגות של המשתנה המקרי ה- n+1-י בהינתן המשתנים שקדמו לו, שווה להתפלגותו בהינתן המשתנה ה- n-י בלבד: Pr ( X n + 1 = j | X n = i n ) = Pr ( X n + 1 = j | X 0 = i 0 , X 1 = i 1 , … , X n = i n ) {\displaystyle \Pr(X_{n+1}=j|X_{n}=i_{n})\,=\Pr(X_{n+1}=j|X_{0}=i_{0},X_{1}=i_{1},\ldots ,X_{n}=i_{n})} כאשר המשתנים המקריים מקבלים ערכים בקבוצה { 1 , 2 , … , N } {\displaystyle \{1,2,\ldots ,N\}} . שרשרת מרקוב המקיימת את תכונת מרקוב ניתנת לייצוג בעזרת אוטומט הסתברותי. שרשרת מרקוב מסדר k מתארת תהליך סטוכסטי שעבורו ההתפלגות של המשתנה המקרי הn+1-י בהינתן המשתנים שקדמו לו, שווה להתפלגותו בהינתן k המשתנים שקדמו לו: Pr ( X n + 1 = j | X 0 = i 0 , X 1 = i 1 , … , X n = i n ) = Pr ( X n + 1 = j | X n − k + 1 = i n − k + 1 , X n − k + 2 = i n − k + 2 , … , X n = i n ) {\displaystyle \Pr(X_{n+1}=j|X_{0}=i_{0},X_{1}=i_{1},\ldots ,X_{n}=i_{n})=\Pr(X_{n+1}=j|X_{n-k+1}=i_{n-k+1},X_{n-k+2}=i_{n-k+2},\ldots ,X_{n}=i_{n})\,} לפי הגדרה זו, תהליך סטוכסטי המקיים את תכונת מרקוב מהווה שרשרת מרקוב מסדר 1. ניתן לייצג את ערך השרשרת כהילוך אקראי בקבוצה סופית של מצבים. תכונת מרקוב מאפשרת לתאר את התפלגות של סדרת המשתנים בצורה תמציתית. הוכח כי ניתן להגדיר במלואה כל התפלגות של שרשרת מרקוב על ידי המקדמים הבאים: 1. מספר המצבים N {\displaystyle N} 2. וקטור ההתפלגות ההתחלתית, כלומר ההתפלגות של   X 0 {\displaystyle \ X_{0}} , המסומנת ב- q → 0 {\displaystyle {\vec {q}}_{0}} כאשר ( q → 0 ) j = Pr ( X 0 = j ) {\displaystyle ({\vec {q}}_{0})_{j}=\Pr(X_{0}=j)} 3. סדרה של מטריצות NxN, המסומנות P 1 , P 2 , … {\displaystyle P_{1},P_{2},\ldots } , והמגדירות את הסתברויות המעבר, כך ש: [ P t ] i j = Pr ( X t = i | X t − 1 = j ) {\displaystyle [P_{t}]_{ij}=\Pr(X_{t}=i|X_{t-1}=j)} , ההסתברות לקבלת סדרה סופית של מצבים, i 0 , i 1 , … , i L {\displaystyle i_{0},i_{1},\ldots ,i_{L}} הנתונה על ידי: q i 0 ∏ t = 1 L [ P t ] i t i t − 1 {\displaystyle q_{i_{0}}\prod _{t=1}^{L}[P_{t}]_{i_{t}i_{t-1}}} חישוב ההסתברות לכל מאורע במרחב הסדרות (האינסופיות), נעשה באופן דומה: ההתפלגות של המשתנה X k {\displaystyle X_{k}} נתונה על ידי הווקטור q → k = ( ∏ t = 1 k P t ) q → 0 {\displaystyle {\vec {q}}_{k}=\left(\prod _{t=1}^{k}P_{t}\right){\vec {q}}_{0}} שרשרת מרקוב נקראת הומוגנית בזמן אם מתקיים ש- Pr ( X n + 1 = j | X n = i n ) {\textstyle \Pr(X_{n+1}=j|X_{n}=i_{n})\,} ללא תלות ב- n {\textstyle n} . כלומר, כאשר ההסתברות לעבור ממצב למשנהו אינה תלויה בזמן ההגעה אליו. לדוגמה, אם לאחר התקדמות של 4 {\textstyle 4} שלבים בפעולת מערכת מרקובית ההסתברות לעבור ממצב 1 {\textstyle 1} למצב 2 {\textstyle 2} אינה זהה להסתברות המעבר אם כבר התבצעו 5 שלבים במערכת, השרשרת אינה הומוגנית בזמן. לעומת זאת אם הסתברויות המעברים של כל המצבים אל שאר המצבים אינן משתנות בהתאם למספר השלבים שעברה המערכת, השרשרת הומוגנית בזמן. שרשרת מרקוב נקראת אי פריקה אם מכל מצב בשרשרת ניתן להגיע אל כל שאר המצבים. מצב i {\displaystyle i} בשרשרת מרקוב יקרא מצב ארגודי אם לכל מצב j {\displaystyle j} המקושר ל- i {\displaystyle i} (כלומר קיים מסלול מ- i {\displaystyle i} ל- j {\displaystyle j} ) אז גם i {\displaystyle i} מקושר ל- j {\displaystyle j} (כלומר קיים מסלול מ- j {\displaystyle j} ל- i {\displaystyle i} ) מחלקה בלתי פריקה של מצבים מקיימת שעבור כל מצב i {\displaystyle i} במחלקה ועבור כל מצב j {\displaystyle j} במחלקה המצבים מקושרים וגם עבור כל i {\displaystyle i} במחלקה ועבור k {\displaystyle k} שאינו במחלקה אז i {\displaystyle i} לא מקושר ל- k {\displaystyle k} (אך ייתכן כי k {\displaystyle k} מקושר ל- i {\displaystyle i} ). מחלקה בלתי פריקה היא מחלקת שקילות של מצבים ארגודים. שרשרת מרקוב בלתי פריקה מקיימת שכל המצבים בה הם ארגודים. מצב i {\displaystyle i} יקרא נשנה אם הסיכוי לחזור אליו מעצמו פעם נוספת הוא 1 כלומר ∑ k = 1 ∞ f i , i ( k ) = 1 {\displaystyle \textstyle \sum _{k=1}^{\infty }\displaystyle f_{i,i}^{(k)}=1} כאשר f i , i ( k ) {\displaystyle f_{i,i}^{(k)}} מסמל את הסיכוי לחזור למצב ה i {\displaystyle i} לראשונה לאחר k {\displaystyle k} צעדים. מצב שאינו נשנה יקרא מצב חולף. נשים לב שמצב שאיננו ארגודי הוא חולף, אך המשפט ההפוך נכון רק עבור שרשראות סופיות. נשים לב שתכונה שקולה לנשנות היא ∑ k = 1 ∞ P i , i ( k ) = ∞ {\displaystyle \textstyle \sum _{k=1}^{\infty }\displaystyle P_{i,i}^{(k)}=\infty } כאשר P i , i ( k ) {\displaystyle P_{i,i}^{(k)}} מסמל את הסיכוי לחזור למצב ה i {\displaystyle i} לאחר k {\displaystyle k} צעדים. משתי התכונות הללו ניתן להסיק כי נשנות היא תכונה מחלקתית. כלומר אם מצב i {\displaystyle i} במחלקה בלתי פריקה הוא נשנה אז כל המצבים במחלקה הזו נשנים. מצב i {\displaystyle i} יקרא נשנה חיובית אם הוא נשנה ובנוסף מתקיים ש- E i {\displaystyle E_{i}} תוחלת זמן החזרה של המצב סופית. אחרת אם המצב נשנה ותוחלת זמן החזרה היא אינסופית המצב יקרא מצב נשנה אפס. נשנות אפס ונשנות חיובית הן תכונות מחלקתיות. בשרשראות סופיות כל המצבים הנשנים הם נשנים חיובית. עבור מצב i {\displaystyle i} נתבונן ב { k ∣ P i i ( k ) > 0 } {\displaystyle \{k\mid P_{ii}^{(k)}>0\}} ונתבונן ב- d i {\displaystyle d_{i}} המחלק המשותף המקסימלי של האיברים בקבוצה. אם d i ≠ 1 {\displaystyle d_{i}\neq 1} נאמר שהמצב i {\displaystyle i} הוא d i {\displaystyle d_{i}} מחזורי. אחרת, אם d i = 1 {\displaystyle d_{i}=1} נאמר שהשרשרת לא מחזורית. נשים לב שמחזוריות היא תכונה מחלקתית אף היא ולכן עבור כל מצב j {\displaystyle j} הנמצא במחלקה של i {\displaystyle i} המצב j {\displaystyle j} הוא d i {\displaystyle d_{i}} מחזורי אף הוא. עבור מצב נשנה ולא מחזורי i {\displaystyle i} מתקיים שהגבול lim k → ∞ P i , i ( k ) = π i {\displaystyle \textstyle \lim _{k\to \infty }\displaystyle P_{i,i}^{(k)}=\pi _{i}} קיים כאשר π i = 1 E i {\displaystyle \pi _{i}={\frac {1}{E_{i}}}} . עבור מטריצת מעבר מרקובית M {\displaystyle M} אשר מצביה אינה מחזוריים מתקיים שעבור התפלגות מצבים V → = ( π 1 π 2 π 3 ⋮ ) {\displaystyle {\vec {V}}={\begin{pmatrix}\pi _{1}\\\pi _{2}\\\pi _{3}\\\vdots \end{pmatrix}}} מתקיים M V → = V → {\displaystyle M{\vec {V}}={\vec {V}}} כלומר התפלגות מצבים זו היא וקטור עצמי בעל ערך עצמי 1 {\displaystyle 1} של M {\displaystyle M} ועל כן נקראת התפלגות סטציונרית. עבור תהליך מרקובי אי פריק שכל מצביו נשנים חיובית ולא מחזוריים ההתפלגות הסטציונרית היא יחידה ושווה ל- V → {\displaystyle {\vec {V}}} . עבור ההתפלגות הסטציונרית מתקיים כי עבור כל מצב i {\displaystyle i} מתקיים כי π i = ∑ j P j , i π j {\displaystyle \pi _{i}=\sum _{j}\displaystyle P_{j,i}\pi _{j}} כאשר השרשרת היא לא מחזורית ובלתי פריקה, התפלגות המצבים תשאף להתפלגות הסטציונרית, ללא תלות בוקטור התפלגות המצבים ההתחלתי. תנאי האיזון המפורט דורש תנאי חזק יותר על ההתפלגות הסטציונרית P i , j π i = P j , i π j {\displaystyle P_{i,j}\pi _{i}=P_{j,i}\pi _{j}} . כאשר תנאי זה מתקיים השרשרת תקרא שרשרת מרקוב הפיכה. לעיתים, שרשרת מרקוב מתוארת לפי הסתברויות המעברים בין המצבים בעזרת וקטור המייצג את ההסתברויות להתחיל את המערכת בהתאם לכל מצב, ובעזרת מטריצה המתאימה את ההסתברויות לעבור מהמצב בשורה ה-i (כל שורה מסתכמת ל-1) למצב בטור ה-j. למשל, בתרשים המובא בפתיח הערך מתוארת השרשרת עם וקטור המצבים ההתחלתיים ומטריצת המעברים הבאים: q → 0 = [ 1 / 3 1 / 3 1 / 3 ] {\displaystyle {\vec {q}}_{0}={\begin{bmatrix}1/3\\1/3\\1/3\end{bmatrix}}} ו- P t = [ 0.3 0.5 0.2 0.1 0.45 0.45 0 0.3 0.7 ] {\displaystyle P_{t}={\begin{bmatrix}0.3&0.5&0.2\\0.1&0.45&0.45\\0&0.3&0.7\end{bmatrix}}} לכל t. בהגדרה כללית, הסתברויות המעבר יכולות להשתנות עם הזמן. לעיתים, תהליכים שלכאורה אינם מרקוביים מקיימים את תכונת מרקוב. לדוגמה, מערכת כזו היא מערכת מזג אוויר אשר מנתחים אותה על ידי בניית דגם של מצביה לאחור בזמן. במקום להגריל את מצב מזג האוויר ביום הראשון ולאחר מכן ביום השני, מגרילים את מצב מזג האוויר בדגם, ליום האחרון, ולאחריו לאחור, ליום שקדם לו. כל יום, על סמך הנתונים ביום שלאחריו על פי הסתברויות-מעבר שנקבעו מראש. תהליך בניית דגם מסוג זה יכול לקיים את תכונת מרקוב. יתר-על-כן, ניתן להגדיר וקטור התפלגות למצב מזג האוויר ביום האחרון וכן הסתברויות מעבר "אחורה בזמן", כך שההתפלגות המתקבלת תהיה זהה לדגם המחושב קדימה. מערכת זו מקיימת את תכונת מרקוב. בעזרת חוק בייס הוכח שכל תהליך "מרקובי הפיך" מסוג זה מקיים את תכונת מרקוב, בתנאי שההסתברות לכל מצב אינה מתאפסת באף אחת מנקודות הזמן. ∀ t , j : Pr ( X t = j ) ≠ 0 {\displaystyle \forall {t,j}:\Pr(X_{t}=j)\neq 0} . בהנחה שמזג האוויר בשבוע הראשון מוגרל כך שסדרת המצבים "גשום, גשום, גשום, ..., גשום" מופיעה בהסתברות 0.5, בעוד ששאר האפשרויות לסדרת מצבי מזג האוויר בשבוע הראשון מוגרלות בהסתברות שווה (כלומר, בהסתברות   0.5 / ( 3 7 − 1 ) {\displaystyle \ 0.5/(3^{7}-1)} כל אחת). לאחר יום שבת, מזג האוויר מוגרל לפנים - כל פעם על סמך היום שלפניו. השוויון המופיע בהגדרת תכונת מרקוב אומנם מתקיים ביום שני בשבוע הראשון (ובאופן טריוויאלי גם ביום ראשון, ובכל הימים שלאחר השבוע הראשון), אך מיום שלישי ועד ליום שבת בשבוע הראשון הוא מופר. למשל, ההסתברות שיום שבת יהיה גשום בהינתן שיום שישי היה גשום היא   5 / 6 {\displaystyle \ 5/6} . בעוד שההסתברות לכך שיום שבת יהיה גשום בהינתן שמיום ראשון ועד יום שישי היה גשום, היא   2186 / 2188 {\displaystyle \ 2186/2188} , שזה יותר מ-99.9%. בתהליך זה, בניגוד לתהליכים מרקוביים, משתלם לזכור את ההיסטוריה גם מעבר למצב הנוכחי - המידע הנוסף (על מזג האוויר מיום ראשון עד יום חמישי) מחדד את הניבוי לגבי מזג האוויר ביום שבת. במצב זה ישנם גורמים נסתרים, שאינם מתבטאים במלואם במצב מזג האוויר של יום שישי, ומשפיעים על מזג האוויר ביום שבת. שרשראות מרקוב משמשות במגוון רב של תחומים ובפרט במדע ובמתמטיקה. ניתן למצוא שימושים של שרשראות מרקוב בפיזיקה סטטיסטית, כימיה, ביולוגיה ותורת התורים דוגמאות למודלים אשר מהווים שרשראות מרקוב: מודל ארנפסט: מודל המתאר את הדיפוזיה של N {\displaystyle N} חלקיקים בין שני מיכלים זהים. המודל מתאר זאת כתהליך לידה ומוות מרקובי בעל N + 1 {\displaystyle N+1} מצבים וההנחה שלכל היותר מעבר יחיד מתרחש בכל צעד. הסתברות המעבר מהמצב ה i {\displaystyle i} למצב ה i + 1 {\displaystyle i+1} היא P i , i + 1 = ( N − i ) λ {\displaystyle P_{i,i+1}=(N-i)\lambda } והסתברות המעבר מהמצב ה i {\displaystyle i} למצב ה i − 1 {\displaystyle i-1} היא P i , i − 1 = i λ {\displaystyle P_{i,i-1}=i\lambda } כאשר λ {\displaystyle \lambda } הוא קצב החלפת המיכל של חלקיק. כאשר אנחנו במצב שיווי משקל התהליך הפיך ולכן נדרוש קיום של תנאי האיזון המפורט. כלומר ש P i , j π i = P j , i π j {\displaystyle P_{i,j}\pi _{i}=P_{j,i}\pi _{j}} נקבל ש P i , i + 1 π i = P i + 1 , i π i + 1 {\displaystyle P_{i,i+1}\pi _{i}=P_{i+1,i}\pi _{i+1}} ממשוואה זו נקבל באינדוקציה כי π i = ( N i ) π 0 {\displaystyle \pi _{i}={\binom {N}{i}}\pi _{0}} מכיוון שאנחנו דורשים שהווקטור יתאר התפלגות הסתברות נדרוש כי ∑ i = 0 N π i = 1 {\displaystyle \sum _{i=0}^{N}\pi _{i}=1} על ידי שימוש בנוסחא 2 n = ∑ k = 0 n ( n k ) {\displaystyle 2^{n}=\sum _{k=0}^{n}{n \choose k}} נקבל כי π i = 2 − N ( N i ) {\displaystyle \pi _{i}=2^{-N}{N \choose i}} . כאשר π i {\displaystyle \pi _{i}} ייצג את פרק הזמן היחסי שבו יהיו במיכל i {\displaystyle i} חלקיקים. באופן דומה ניתן להתייחס לכמות הכדורים בכל מיכל כאל טמפרטורת המיכל ובכך לקבל תיאור סטטיסטי של מעבר חום במקום תיאור קלאסי. עקב העובדה שהשרשרת במודל זה הם מחזוריים (בעלי מחזור 2) וקטור ההתפלגות אינו יתכנס להתפלגות הסטציונרית ללא תלות במצב ההתחלתי אלא יבצע תנודות סביבה. למרות זאת בשנת 1947 הוכיח מארק קארק כי עבור מצב התחלתי השונה ממצב שיווי המשקל מתקיים כי האנטרופיה מונוטונית עולה (תאוריית H). ובכך בעצם המודל מהווה הסבר לחוק השני של התרמודינמיקה ופותר את הפרדוקס הנוצר מההפיכות המיקרוסקופית הנובעת מחוקי ניוטון לבין החוק השני של התרמודינמיקה. מודל דומה נוסף הוא מודל ברנולי לפלס המאפשר מהלך ללא מעבר של חלקיקים בין המיכלים ובכך יוצרים שרשרת בלתי פריקה לא מחזורית ובכך מתקיים שוקטור ההתפלגות במודל זה יתכנס לוקטור ההתפלגות הסטציונרית ללא תלות במצב ההתחלתי. גם במודלים הללו האנטרופיה מקסימלית עבור ההתפלגות הסטציונרית והם מהווים הסבר לחוק השני. בנוסף במודלים הללו ניתן להשתמש בקשר π i = 1 E i {\displaystyle \pi _{i}={\frac {1}{E_{i}}}} על מנת להראות שתוחלת זמן החזרה למצבים הרחוקים ממצב שיווי משקל במערכות רב חלקיקיות גדולה בהרבה מהזמנים המאפיינים ניסויים ולהסיק מכך שניתן באופן פרקטי להתעלם ממשפט ההישנות של פואנקרה. Markov chain Monte Carlo: Markov chain Monte Carlo או בקצרה MCMC הם סוג של אלגוריתמים המיועדים לדגימת התפלגות הסתברות. על ידי יצירת שרשרת מרקוב בעלת התפלגות סטציונרית השווה לפונקציה ידועה הפרופורציונית להתפלגות ההסתברות ניתן לדגום את ההסתברות עצמה גם אם היא אינה ידועה ובאמצעות הדגימות ניתן לבצע קירוב של התפלגות ההסתברות. בנוסף ניתן להשתמש בדגימות על מנת להעריך גדלים אותם אנו מעוניינים לחשב. דוגמה לצורך באלגוריתם מסוג זה היא בחישוב התפלגות בולצמן על ידי שימוש באלגוריתם מטרופוליס. ידוע שעבור מערכת קנונית ההסתברות של חלקיק להמצא במצב i {\displaystyle i} נתונה על ידי p i = exp ⁡ ( − E i / k B T ) Z {\displaystyle p_{i}={\frac {\exp(-E_{i}/k_{B}T)}{Z}}} - כאשר Z = ∑ i exp ⁡ ( − E i k B T ) {\displaystyle Z=\sum _{i}\exp \left({\frac {-E_{i}}{k_{B}T}}\right)} . אם מספר המצבים האפשרים קטן, ניתן למצוא את Z על ידי סכימה ישירה, אך כיוון שמספר המצבים האפשרי גדל אקספוננציאלית כתלות במספר החלקיקים לרוב לא יהיה ניתן לבצע זאת. לעומת זאת ניתן להגדיר שרשרת מרקוב המקיימת P i , j = m i n ( e E ( X i ) − E ( X j ) K b T , 1 ) | N ( i ) | {\displaystyle P_{i,j}={min{\biggl (}e^{E(X_{i})-E(X_{j}) \over K_{b}T},1{\biggl )} \over \left\vert N(i)\right\vert }} עבור j ∈ N ( i ) {\displaystyle j\in N(i)} כאשר N ( i ) {\displaystyle N(i)} היא סביבת המצבים של i {\displaystyle i} אשר ההבדל בין המצבים הוא חלקיק יחיד. בדומה לאלגוריתם מונטה קרלו המצב ה j {\displaystyle j} יבחר באופן אחיד מתוך N ( i ) {\displaystyle N(i)} . לבסוף על מנת שהשרשרת תהיה לא מחזורית נגדיר P i , i = 1 − ∑ j ∈ N ( i ) P i , j {\displaystyle P_{i,i}=1-\sum _{j\in N(i)}P_{i,j}} . כעת בזכות העובדה שזוהי שרשרת מרקוב ניתן להבטיח שההתפלגות תשאף להתפלגות הסטציונרית ללא תלות בבחירה ההתחלתית ולכן ניתן לבחור מצב i {\displaystyle i} התחלתי כללי (על מנת לעשות זאת באופן נומרי צריך לספור את מספר הביקורים עבור כל מצב ולחלק במספר הביקורים הכולל בסך כל המצבים). בנוסף ניתן לראות שהתהליך שבחרנו הוא תהליך הפיך שכן תנאי האיזון המפורט מתקיים. שרשראות מרקוב בזמן רציף: מודלים פיזקלים רבים מהווים למעשה שרשראות מרקוב בזמן רציף. עבור שרשראות מרקוב בזמן רציף ניתן לחשב - בהתאם לקצבי המעבר וההגעה את המטריצה היוצרת האינפיניטיסמלית ובאמצעותה להגיע למערכת משוואות דיפרנציאליות. מודלים מסוג זה כוללים את התנועה הבראונית ואת משוואת המסטר. על ידי מעבר לגבול הרצף (כלומר, הגבול בו המצבים הבדידים בשרשרת המרקוב הופכים לרציפים) ניתן לפתח מתוך משוואת המסטר את משוואות קולמגרוב ומשוואת פוקר פלאנק. בנוסף על ידי שימוש בתנאי האיזון המפורט עבור משוואת פוקר פלנק ניתן להסיק את יחס איינשטיין. תהליך החלטה מרקובי מודל מרקוב חבוי דגימת גיבס תהליך לידה-מוות מדיה וקבצים בנושא שרשרת מרקוב בוויקישיתוף תהליכי מרקוב, דף שער בספרייה הלאומית אתר הקורס מבוא לתהליכים סטוכסטיים של שלומי רובינשטיין. פוסט על שרשראות מרקוב בבלוג "לא מדויק" של גדי אלכסנדרוביץ' בעיית המטריות: איך לא להירטב? - יוסי לוי - נסיכת המדעים פרק על שרשראות מרקוב בספר הסתברות של האגודה האמריקאית למתמטיקה (באנגלית) The World's Largest Matrix Computation (הדירוג של מנוע החיפוש גוגל מבוסס על חישוב ההתפלגות הסטציונרית של הילוך מקרי ברשת, באנגלית) שרשרת מרקוב, באתר MathWorld (באנגלית) ד"ר שלומי רובינשטיין, מתוך סיכומי הקורס מבוא לתהליכים סטוכסטיים (עמ' 17) ד"ר שלומי רובינשטיין, מתוך סיכומי הקורס מבוא לתהליכים סטוכסטיים (עמ' 30-34) באופן פורמלי, תכונת מרקוב מתייחסת להתפלגות על סדרות אינסופיות לכיוון אחד. לכן, יש לתאר מראש את אופן הגרלת מצב מזג האוויר גם לימים שאחרי היום האחרון שבדגם. בדוגמה זו, יש צורך להניח שמהיום האחרון ואילך, בניית הדגם תיעשה קדימה בזמן. למרות בניית הדגם "לאחור בזמן", הדגם בוחן את ההסתברויות למצב בכל יום בהינתן המצב ב'יום שלפניו'. הגדרת התכונה - כלומר אופן בניית הדגם, אינה מושפעת מסדר ההגרלה. בדוגמה זו הסתברויות המעבר "אחורה" יכולות להשתנות עם הזמן, גם אם הסתברויות המעבר המקוריות, "קדימה", היו קבועות בזמן. למרות זאת, הדגם נחשב 'מרקובי'. Eugene Seneta, Markov Chains as Models in Statistical Mechanics, Statistical Science 31, 2016-08, עמ' 399–414 doi: 10.1214/16-STS568 Richard Combes, Sampling-based optimization [http://folk.uio.no/feder/Fys3130/LectureNotes/FokkerPlanck.pdf Fokker-Planck Equation with Detailed Balance]