משחק T שלבי

משחק חוזר T שלבי בתורת המשחקים, הוא מודל פשוט של משחקים בו השחקנים משחקים פעם אחר פעם אותו משחק חד שלבי.
בפרט, הפעולות האפשריות לשחקנים, כמו גם פונקציית התשלומים שלהם, אינן משתנות עם הזמן, ואינן תלויות במהלך המשחק. לעומת משחקים חד-שלביים, הממדלים מצבים שבהם האינטראקציה בין השחקנים היא חד-פעמית, ולאחר שהיא מסתיימת, אין לה כל השפעה על אינטראקציות נוספות בין השחקנים, במקרים רבים האינטראקציה בין השחקנים אינה מסתיימת לאחר מפגש אחד, ומכיוון שהשחקנים חוזרים ומשחקים אחד עם השני פעם אחר פעם, עולות תופעות התנהגותיות שונות במשחק חוזר רב-שלבי.

== תכונות המשחק החוזר ה T שלבי ==
* המשחק החוזר מאפשר לשחקנים לשתף פעולה. מכיוון שהשחקנים יכולים להתנות את פעולותיהם בכל שלב במה שקרה בשלבים קודמים, שחקן יכול לאיים על יריביו, שאם לא ישתף איתו פעולה, הוא ישחק בעתיד בפעולות הפוגעות בהם, ולעיתים הוא אף יכול להוציא את האיום אל הפועל, כלומר לבצע "ענישה". למשל, בית דפוס יכול להודיע ליצרן נייר שאם לא יוריד את מחיר הנייר ב-10%, הוא יפסיק לרכוש ממנו נייר.
* מכיוון שהמשחק חוזר, שחקנים יכולים לפתח מוניטין. חנות ספורט למשל, יכולה לפתח מוניטין כשהסחורה שהיא מוכרת טובה או זולה.

הנחת חוסר השינוי בזמן של הפעולות האפשרויות לשחקנים ופונקציות התשלומים שלהם, שהנחנו קודם, היא מאוד מגבילה, ובמקרים רבים אינה מתקיימת, לאור הדוגמאות שהצגנו למעלה. למשל, ספקי נייר חדשים נכנסים לשוק וספקי נייר קיימים עוזבים את השוק, וקבוצות כדורגל יורדות לליגה נמוכה יותר או עולות לליגה גבוהה יותר.

== המודל ==

משחק חוזר בנוי על משחק בסיסי המגדיר אותו, כלומר, המשחק שאותו השחקנים משחקים שוב ושוב. נכנה את המשחק הבסיסי בשם "המשחק החד-שלבי", ונניח שהוא נתון בצורה אסטרטגית על ידי <math>\Gamma = (N, (S_i)_{i\in N}, (u_i)_{i\in N})</math> כאשר <math>N = \{1,2,...,n\}</math> היא קבוצת השחקנים, <math>S_i</math> היא קבוצת הפעולות של שחקן <math>_i</math>, ו-<math>u_i:S\rightarrow R</math> היא פונקציית התשלומים החד-שלבית של שחקן i, כאשר <math>S=S_1 \times S_2\times\cdot\cdot\cdot\times S_n</math> היא קבוצת וקטורי הפעולות.
במשחק חוזר נפגשים אותם השחקנים שוב ושוב מספר פעמים, ובכל פעם משחקים את אותו משחק בצורה אסטרטגית. כדי לתאר באופן מלא משחק חוזר, יש לומר גם כמה שלבים המשחק נמשך. בנוסף, מכיוון שבכל שלב השחקנים מקבלים תשלום, יש לציין כיצד השחקנים מעריכים את סדרת התשלומים שהם מקבלים. כלומר, כיצד כל שחקן משווה בין סדרת תשלומים אחת לסדרת תשלומים אחרת.

== היסטוריות ואסטרטגיות ==
מכיוון שבמשחק חוזר השחקנים נפגשים פעם אחר פעם, הם צוברים אינפורמציה אחד על השני ככל שהמשחק מתקדם. המידע העומד לרשותו של כל שחקן בשלב <math>t+1</math> הוא הפעולות ששיחקו כל השחקנים ב- <math>t</math> השלבים הראשונים של המשחק. לכן נגדיר לכל <math>t\ge0</math> את אוסף ההיסטוריות ה- t שלביות כ: 
<math>H(t)=S^t=S\times S\times \cdot\cdot\cdot\times S</math>
( t פעמים)

עבור <math>t=0</math> אנו מזהים <math>H(0)=\{\empty\}</math>, כאשר <math>\empty</math> היא ההיסטוריה בתחילת המשחק, שאינה מכילה אף פעולה. היסטוריה ב- <math>H(t)</math> תסומן לעיתים ב-<math>h</math>ולעיתים ב- <math>(s^1,s^2,...,s^t)</math>, כאשר <math>s^j=(s_i^j)_{i\in N}</math> הוא וקטור הפעולות ששוחק בשלב <math>j</math>.

אסטרטגיה עבור שחקן <math>i</math> היא תוכנית פעולה שאומרת לשחקן איזו פעולה מעורבת הוא אמור לשחק אחרי כל היסטוריה אפשרית.

==אסטרטגיית התנהגות==
אסטרטגית התנהגות עבור שחקן <math>i</math> במשחק ה- T שלבי היא פונקציה המתאימה לכל היסטוריה באורך קטן מ-T פעולה מעורבת :
<math>\tau_i:\bigcup_{t=0}^{T-1} H(t)\rightarrow\Sigma_i</math>
קבוצת אסטרטגיות ההתנהגות של שחקן <math>i</math> המשחק ה-T שלבי מסומנת ב<math>\Sigma_i^T</math>.

==המשפט העממי==
המשפט העממי, או The folk theorem, הוא משפט חשוב בנושא משחקים חוזרים. נניח כי לכל שחקן <math>i\in N</math> יש שיווי משקל <math>\beta(i)</math> במשחק החד-שלבי <math>(N, (S_i)_{i\in N}, (u_i)_{i\in N})</math> המקיים <math>u_i(\beta(i))>\bar{v}_i</math>. אזי לכל <math>\epsilon>0</math> קיים <math>T_0\in N</math> כך שלכל <math>T\ge T_0</math> ולכל וקטור תשלומים אפשרי וסביר פרטית <math>x\in F\cap V</math> קיים שיווי משקל <math>\tau</math> במשחק ה-T שלבי שהתשלום המתאים לו קרוב עד כדי <math>\epsilon</math>ל- <math>x</math>:

<math>\| \gamma^T(\tau)-x\|_\infty<\epsilon</math>

== משחק חוזר מהוון ==

בהגדרת המשחק ה-T שלבי הנחנו כי כל שחקן מנסה למקסם את תוחלת סכום התשלומים שהוא מקבל בכל שלבי המשחק. בפרט, אם משה מקבל עשרת אלפים שקלים היום, ויעקב מקבל עשרת אלפים שקלים בעוד שנה, הנחנו כי מצבם של שני השחקנים זהה. במציאות, הנחה זו אינה מתקיימת: אם משה ישקיע את כספו בבנק, כסף זה יצבור ריבית (נאמר של 5%), ולכן בעוד שנה יהיו למשה 10,500 שקלים - מצבו יהיה טוב יותר ממצבו של יעקב. לכן במודלים כלכליים מקובל להניח כי השחקנים אינם ממקסמים את סכום התשלומים שלהם, אלא סכום מהוון של התשלומים, הלוקח בחשבון את הריבית שאותה יכולים השחקנים לקבל עבור כספם.

הגדרה

יהי <math>\Gamma=(N,(S_i)_{i\in N}, (u_i)_{i\in N})</math> משחק חד-שלבי ויהי <math>\lambda\in (0,1)</math>. המשחק המהוון <math>\Gamma_\lambda</math> (עם קבוע היוון <math>\lambda</math>) המתאים ל-<math>\Gamma</math> הוא המשחק <math>\Gamma_\lambda=(N, (\Sigma_i^T)_{i\in N}, (\gamma_i^\lambda)_{i\in N})</math>.

מההגדרה נובע כי וקטור אסטרטגיות <math>\tau</math> הוא שיווי משקל ב-<math>\Gamma_\lambda</math> אם לכל שחקן <math>i\in N</math> ולכל אסטרטגיה <math>\tau_i^'</math> שלו מתקיים:

<math> \gamma_i^\lambda(\tau)\ge \gamma_i^\lambda(\tau_i^', \tau_{-i})</math>.

במקרה כזה, הווקטור הוא תשלום שיווי משקל ב-<math>\Gamma_\lambda</math>.
נוח כאן להניח כי המשחק החוזר הוא אינסופי.

תשלום מהוון

יהי <math>\lambda\in (0,1)</math> מספר ממשי, ויהי <math>\tau=(\tau_i)_{i\in N}</math> וקטור אסטרטגיות במשחק האינסופי. התשלום המהוון תחת <math>\tau</math> לשחקן <math>i</math> הוא: 

<math>\gamma_i^\lambda (\tau)=E_\tau[(1-\lambda)\sum_{t=1}^{\infty}\lambda^{t-1}u_i^t]</math>

הקבוע <math>\lambda</math> נקרא קבוע היוון (discount factor).

הסבר

החזקה <math>\lambda^{t-1}</math> מביעה את העובדה שתשלום של 1 מחר, שקול לתשלום של <math>\lambda</math> היום, תשלום של 1 מחרתיים שקול לתשלום של <math>\lambda^2</math> היום, וכו'. מכיוון ש-<math>(1-\lambda)\sum_{t=1}^\infty \lambda^{t-1}=1</math>, התשלום המהוון הוא ממוצע משוקלל של התשלומים היומיים, עם משקלות היורדים בקצב גאומטרי. כאשר <math>\lambda</math> קרוב לאפס, <math>1-\lambda</math> (המשקל של התשלום בשלב הראשון) גדול יחסית ל-<math>\lambda</math> (המשקל של התשלומים בכל שאר השלבים), ולכן התשלום בשלב הראשון חשוב ביותר: השחקן חושב על היום, ומוכן לוותר על תשלומים גבוהים בעתיד. כאשר <math>\lambda</math> קרוב ל-1 המשל של שלב <math>t</math> קרוב יותר לזה של שלב <math>t+1</math>, ולכן השחקן "סבלני" - הוא יהיה מוכן לוותר בשלב מסוים כדי לקבל רווח גדול יותר בעתיד הקרוב.

הכפל ב-<math>(1-\lambda)</math>הוא גורם נירמול המבטיח שנקבל מספר המבטא מעין "תוחלת תשלום לשלב". 

===המשפט העממי עבור המשחק המהוון===

לכל <math>\epsilon>0</math> קיים <math>\lambda_0\in (0,1)</math> ולכל וקטור <math>x\in F\cap V</math> קיים שיווי משקל <math>\tau</math> ב-<math>\Gamma_\tau</math> המקיים:

<math>\|\gamma^\lambda(\tau)-x\|_\infty<\epsilon</math>

== דוגמה למשחק חוזר ==
דילמת האסיר החוזרת

דילמת האסיר היא המשחק החד שלבי עם שני שחקנים הנתון על ידי מטריצת התשלומים המופיעה בתרשים הבא:

דילמת האסיר החוזרת

לשני השחקנים, הפעולה D שולטת חזק על הפעולה C, ולכן במשחק החד שלבי שיווי המשקל היחיד הוא (D,D). 
נתבונן עתה במקרה שבו השחקנים משחקים את המשחק פעמיים, ובפעם השנייה הם יודעים מה שיחקו בפעם הראשונה. בתיאור המצב כמשחק בצורה רחבה יש בעץ קבוצות ידיעה מכיוון שבכל שלב השחקנים בוחרים פעולות באופן סימולטני. בתרשים הבא, בכל עלה מופיע סך התשלומים בשני השלבים של השחקנים.

דילמת האסיר הדו שלבית

מה הם שיוויי המשקל במשחק זה? 
בדיקה ישירה מראה שוקטור האסטרטגיות שבו השחקנים חוזרים על שיווי המשקל החד-שלבי (D,D) פעמיים הוא שיווי משחק במשחק הדו-שלבי. זהו מקרה פרטי של טענה כללית יותר האומרת שכל וקטור אסטרטגיות שבו, בכל שלב, השחקנים משחקים שיווי משקל במשחק החד-שלבי, הוא שיווי משקל במשחק ה-T-שלבי. 
במקרה שלפנינו, נראה כי בכל שיווי משקל במשחק החוזר הדו-שלבי השחקנים משחקים (D,D) בשני השלבים. אכן, נניח בשלילה שיש שיווי משקל שבו בהסתברות חיובית ישנו שלב שבו השחקנים אינם משחקים (D,D). יהי <math>t \in {1,2}</math> השלב האחרון שבו השחקנים בהסתברות חיובית אינם משחקים (D,D). נראה כי אסטרטגיה כזו אינה יכולה להיות שיווי משקל.

מקרה ראשון: t = 1. 
נתבונן באסטרטגיה של שחקן 1 שבה בשני השלבים הוא משחק D. נראה כי התשלום לשחקן 1 עלה. מכיוון ש D שולטת חזק על C, התשלום לשחקן 1 בשלב הראשון עלה. מכיוון שלאחר שלב t השחקנים היו אמורים לשחק (D,D) (מכיוון ש-tהוא השלב האחרון שבו לא משחקים (D,D)), התשלום לשחקן 1 בשלב השני היה אמור להיות 1. מכיוון שבאסטרטגיה החדשה הוא משחק בשלב השני D, הרי שהתשלום לו הוא 1 או 4 (תלוי אם שחקן 2 משחק D או C), ובכל מקרה הוא אינו מפסיד בשלב השני. לכן סכום התשלומים של שחקן 1 במשחק עלה.

מקרה שני: t = 2. נתבונן באסטרטגיה של שחקן 1 שבה הוא משחק בשלב הראשון כפי שמורה לו האסטרטגיה המקורית, ובשלב השני הוא משחק D. התשלום לשחקן 1 בשלב הראשון אינו משתנה, אך מכיוון ש-D שולטת על C, התשלום לשחקן 1 בשלב השני עלה. לכן בסך הכל סכום התשלומים של שחקן 1 עלה.

== לקריאה נוספת ==
*

קטגוריה:תורת המשחקים