בפרוץ מלחמת העולם השנייה הוצב קנאן בברלין. שם הוא נאסר למשך כחצי שנה לאחר כניסתה של ארצות הברית למלחמה בסוף 1941. הוא השתתף, בסוף 1943 וב-1944, במשלחת האמריקאית לוועדה המייעצת האירופאית (European Advisory Commission) שהוקמה כדי לתאם את מדיניות בעלות הברית באירופה שלאחר המלחמה.
קנאן והמלחמה הקרה.
"המברק הארוך".
קנאן היה המשנה לראש המשלחת הדיפלומטית האמריקאית במוסקבה ממאי 1944 ועד אפריל 1946. לקראת סוף תקופה זו, ב-22 בפברואר 1946, הוא שלח מברק () בן כ-5,300 מילים למזכיר המדינה ג'יימס פרנסיס ברנס, מברק אשר הציע גישה חדשה ליחסים הדיפלומטיים עם מוסקבה. ביסוד "השקפת העולם הנוירוטית של הקרמלין בענייני חוץ", טען קנאן, עומדת "תחושת חוסר הביטחון המסורתית והאינסטינקטיבית הרוסית". בעקבות מהפכת אוקטובר התערבב חוסר הביטחון עם אידאולוגיה קומוניסטית ו"חשאיות אוריינטלית".
ההתנהגות של הסובייטים בזירה הבינלאומית, אליבא דקנאן, הוכתבה בראש ובראשונה על ידי הצרכים הפוליטיים הפנימיים של סטלין. ככל שהעולם מבחוץ עוין יותר, כך יכול היה סטלין להצדיק את שלטונו האוטוקרטי האכזר. כך השתמש סטלין במרקסיזם-לניניזם כ:
הפתרון שהציע קנאן, היה לחזק את מוסדות המערב על מנת שיוכלו לעמוד בלחץ הסובייטי, ולהמתין להתרככות של המשטר בברית המועצות.
המברק הביא את קנאן לתשומת לבו של שר הצי ג'יימס פורסטל, חבר המעגל הפנימי של טרומן ולימים מזכיר ההגנה שלו. פורסטל היה סבור שארצות הברית צריכה לנהוג ביד קשה עם בת בריתה זה לא מכבר, ברית המועצות. הוא פעל להחזיר את קנאן לארצות הברית ולאחר מכן האיץ בו לפרסם את מאמר ה-"X". עם שובו לוושינגטון, קנאן היה הראשון לעמוד בראש האגף לתכנון מדיניות, בין אפריל 1947 לדצמבר 1949.
בינתיים הופיע הנשיא טרומן בפני הקונגרס במרץ 1947, והציג את אזהרותיו של קנאן במברק הארוך כבסיס של מה שנודע לימים כדוקטרינת טרומן: "אני מאמין שמדיניות ארצות הברית חייבת להיות תמיכה בעמים החופשיים, המתנגדים לשעבוד על ידי מיעוטים מזוינים או על ידי לחצים חיצוניים".
בניגוד למברק הארוך, המאמר "מקורות ההתנהלות הסובייטית" , שפרסם קנאן תחת שם העט "X" במהדורת יולי 1947 של השבועון הנחשב "Foreign Affairs", לא הדגיש בראשיתו את "תחושת חוסר הביטחון המסורתית" של רוסיה. במקום זה, הוא טען שהמדיניות הסובייטית נובעת משילוב בין אידאולוגיה מרקסיסטית-לניניסטית, שקראה לייצוא המהפכה כנגד הכוחות הקפיטליסטים שמבחוץ, לבין נחישותו של סטלין לבצר את כוחו על ידי שימוש בעלה התאנה של "כיתור קפיטליסטי" על רוסיה. קנאן לא הזכיר במאמר, שתחושת הכיתור הזו הייתה מוצדקת לפחות בחלקה: בעלות הברית התערבו במלחמת האזרחים ברוסיה בין 1918 ל-1920 וארצות הברית עצמה ניסתה לבודד את רוסיה בזירה הבינלאומית בשנות העשרים. על כל פנים, סטלין לא היה יכול או לא היה מעוניין למתן את הפעילות החתרנית הרוסית כנגד ממשלות זרות, ולכן:
הבלימה הנדונה היא פעולה שארצות הברית תצטרך לעשות בכוחות עצמה ובאופן חד צדדי. אבל אם תצליח לעשות כן, בלא לפגוע בכלכלתה וביציבות הפוליטית שלה עצמה, היא תצליח להפעיל על המפלגה הקומוניסטית הסובייטית לחץ שסופו בהתמוטטות או התרככות של העוצמה הסובייטית.
מיד עם פרסומו של המאמר הוא עורר דיון ציבורי נוקב. העיתונאי הידוע וולטר ליפמן, שדגל בהתנתקות אמריקאית בגרמניה, ביקר בחריפות את המאמר. בינתיים דלפה הידיעה שקנאן, ראש הצוות לתכנון מדיניות של מחלקת המדינה, הוא "X", מה שנתן לדברים תוקף של מסמך רשמי המייצג את עמדת הממשל.
קנאן עצמו לא התכוון במאמרו להציע מדיניות כוללת. כל חייו עמד על דעתו, שהמאמר לא קרא לבלימה מוחלטת של ההתפשטות הסובייטית בכל מקום, בלי להבחין בין זירות בעלות חשיבות עליונה לאלו המשניות. עוד הבחנה שנעדרה מהמאמר, היא שקנאן העדיף בלימה באמצעים פוליטיים וכלכליים - ולא צבאיים. "דעותיי בנושא הבלימה", כתב קנאן, "עוותו כמובן על ידי מי שהבינו ותפשו את הבלימה כמושג צבאי בלבד. ואני חושב שזה מה שהוביל, לא פחות מכל גורם אחר, לארבעים שנה של ההליך המיותר, היקר להחריד והמעוות של המלחמה הקרה".
הממשל גם לא התאמץ להבהיר לציבור האמריקאי את ההבחנה בין מעגל ההשפעה הסובייטי לתנועה הקומוניסטית הבינלאומית. ההיסטוריון של המלחמה הקרה ג'ון לואיס גדיס הסביר את המחדל הזה, לפחות בחלקו, בכך שרבים בוושינגטון האמינו שכדי לעורר את הציבור האמריקאי ולעקור את הנטיות הבדלניות הטבועות בו, יש צורך באיום מונוליתי גלובלי.
בראיון שהעניק לרשת PBS ב-1996, כחצי מאה לאחר המעשה, שב קנאן והדגיש שהוא לא ראה בסובייטים איום צבאי מן המעלה הראשונה. "הם לא היו כמו היטלר", אמר. אי ההבנה נבעה, לדבריו:
קנאן ושאר החברים בצוותו, קיוו לתקוע טריז בין ברית המועצות לתנועות הקומוניסטיות בשאר העולם. הוא צפה שבעתיד יתפתחו שני גושים מנוגדים בעולם הקומוניסטי: האחד תחת שליטתה של ברית המועצות והשני שיאגד את המדינות הקומוניסטיות המתנגדות לה. התפתחות חזויה זו הייתה אמורה לאפשר נסיגה של כוחות אמריקאים וסובייטים מהעמדות בהן החזיקו מאז תום המלחמה, אך היא לא קרתה מעולם. קנאן הצטער ברבות הימים, על כך שהמדיניות שנקשרה בשמו הביאה למרוץ החימוש הבין-מעצמתי.
ברמה האישית הביא מאמר "X" לקנאן תהילה בין לילה, שהשפעתה לא פסחה גם על משפחתו. בתו הבכירה גרייס זכתה לפתע בכינוי "מיס X" במכללה. "הוא הפך מאבא נורמלי ונחמד, לאבא שכתב את המאמר. זה היה הלם לגלות שאבא שלי פתאום לא היה רק אבא שלי, אלא רכוש ציבורי".
השפעתו תחת מרשל.
שיא השפעתו של קנאן היה בין אפריל 1947 לדצמבר 1948, בעת שג'ורג' מרשל היה מזכיר המדינה. מרשל העריך את ראייתו האסטרטגית, הפקיד אותו על הקמת הצוות לתכנון מדיניות, צוות החשיבה הפנימי של המחלקה, והעמיד אותו בראשו. מרשל הסתמך עליו ועל צוותו, כדי שיספקו לו הצעות למדיניות.
כארכיטקט האינטלקטואלי של תוכנית מרשל, היה קנאן בין המוציאים לפועל של עמוד התווך בבלימה הכלכלית של ברית המועצות באירופה. על אף שהוא ראה את הסובייטים כחלשים מדי מכדי להסתכן במלחמה, הוא ראה בהם אויב המסוגל להתפשט למערב אירופה באמצעים חתרניים, מאחר שהמפלגות הקומוניסטיות במערב אירופה נהנו מפופולריות רבה ונשלטו על ידי מוסקבה. הפתרון המוצע לכך, היה להפנות סיוע כלכלי כביר למדינות אלה וליפן, על מנת להרים את קרנו של הקפיטליזם כהשפעה נגדית. ביוני 1948 המליץ קנאן לתמוך בחשאי במפלגות שמאל שאינן מסונפות למוסקבה ובאיגודי עובדים במערב אירופה, כדי לייצר קרע בין תנועות הפועלים הפופולריות לברית המועצות.
התקווה האמריקאית, בעת השקת התוכנית, הייתה שדחיית הסיוע על ידי ברית המועצות תגרום להרעה ביחסיה גם עם בנות בריתה במזרח אירופה. קנאן אף הציע סדרה של צעדים שנועדו לנצל את הקרע בין מוסקבה ליוגוסלביה של טיטו, על ידי פעילות חשאית בבלקנים שתחריף אותו.
המדיניות האנטי-סובייטית הנוקשה החדשה של הממשל התגלתה כאשר, בעצת קנאן, הפכה ארצות הברית את עמדתה העוינת לספרד הפשיסטית של פרנקו. כבר ב-1947 ראה קנאן שדוקטרינת טרומן מחייבת התקרבות בין ארצות הברית לספרד. סופה של התקרבות זו בשיתוף פעולה צבאי הדוק החל מ-1950.
חילוקי דעות עם אצ'סון.
השפעתו של קנאן דעכה במהירות תחת יורשו של מרשל החולה, דין אצ'סון, ב-1949 ו-1950. אצ'סון לא ראה את ברית המועצות כאיום פוליטי בלבד. הסגר על ברלין שהחל ביוני 1948, הניסוי הסובייטי הראשון בנשק גרעיני באוגוסט 1949, המהפכה הקומוניסטית בסין חודש לאחר מכן ופרוץ מלחמת קוריאה ביוני 1950 - כל האירועים האלה אישרו בעיני אצ'סון את תפישתו, שהאיום הסובייטי הוא צבאי בראש ובראשונה. כשכוחות צ'יאנג קאי שק הפסידו בקרב על סין, גבר הלחץ על אצ'סון וטרומן, שהואשמו על ידי רפובליקנים בקונגרס שהם "הפסידו את סין". הלחץ הפוליטי ושרשרת האירועים הנזכרת, הביאו את אצ'סון וטרומן לנקוט בקו קשה יותר, בכיוון של ברית צבאית המגנה על תחום ההשפעה המערבי התחום בבירור, והמגובה בנשק גרעיני וקונבנציונלי.
המועצה לביטחון לאומי ניסחה באפריל 1950 דו"ח מסווג, NSC-68, שנכתב על ידי פול ניצה והפך לתוכנית המתאר של המלחמה הקרה. קנאן נאבק על מילים ומשפטים במסמך זה עם צ'יפ בולן, גם הוא מומחה לברית המועצות במחלקת המדינה. קנאן לא הסכים עם הרעיון שעלה מהדו"ח של ניצה, שלסטלין יש תוכנית אב מקיפה לכיבוש העולם. דעתו הייתה הפוכה לחלוטין - שסטלין חשש מהתרחבות יתרה שתחליש את כוחו. קנאן הרחיק לכת ואמר ש-NSC-68 לא היה צריך להיכתב מלכתחילה, משום שהוא יגרום למדיניות האמריקאית להיות קשיחה, פשטנית ומיליטריסטית. אצ'סון, בנחישותו להשתיק את הקולות הביקורתיים מבית, דחה את הסתייגויותיהם של קנאן ובולן, וגיבה את ההשקפה הנצית שביסוד NSC-68.
קנאן התנגד לבניית פצצת המימן ולחימוש מחדש של גרמניה המערבית, כשם שהוא התנגד לתפישת NSC-68 שחייבה אותן. כאשר עלתה האפשרות בימי מלחמת קוריאה, שצבא ארצות הברית יפרוץ צפונה לקו הרוחב ה-38 בניסיון לאחד את קוריאה בכוח, קנאן התעמת והתווכח עם דין ראסק, עוזר מזכיר המדינה לענייני המזרח הרחוק, שכמו אצ'סון התייצב בצד הנצי של הדיון.