הוויכוח הפוליטי בעניין "עסק הביש", שכונה "הפרשה", הפך מאוחר יותר, משנת 1960 ואילך, לעניין מרכזי ששיאו בעימות בין בן-גוריון לאשכול. לאחר גלגולים שונים בחקירת "הפרשה", הגיעו הדברים לידי כך שבאוקטובר 1960 גרס בן-גוריון שיש להקים ועדת חקירה משפטית לחקר "העסק הביש", בעוד שצמרת מפא"י העדיפה לסיים את העניין. אשכול חתר להגיע לפשרה, ולסיים בהקמת ועדת שרים לחקר "הפרשה". ב-3 בנובמבר החלו דיוני "ועדת השבעה", שאשכול היה אחד מחבריה, וב-25 בדצמבר 1960 הגישה הוועדה את מסקנותיה וזיכתה את לבון, שר הביטחון, מכל אשמה.
ב-31 בינואר 1961, לאחר חודש של סכסוכים ועימותים, הגיש בן-גוריון את התפטרותו לנשיא המדינה לאחר שלא הצליח להרכיב ממשלה חדשה. ב-21 במרץ 1961 הוחלט על קיום בחירות בחודש אוגוסט. אחרי הבחירות לכנסת החמישית נתקל בן-גוריון בקשיים ללא תקדים בהרכבת ממשלה. בתום חודש של מגעים עקרים, הטיל בן-גוריון על אשכול את ניהול המשא ומתן בשמו. אשכול השכיל לרצות את המפד"ל ואת אחדות העבודה ולצרפן לקואליציה. הרכבת הקואליציה בידי אשכול הייתה סימן מובהק לכך שהוא סומן כיורש לבן-גוריון, ולכך שמעמדו בצמרת מפא"י הוא כשל מס' 2.
כעבור שנתיים, ב-16 ביוני 1963, התפטר בן-גוריון מראשות הממשלה, בפעם האחרונה. עם ההתפטרות היה אשכול ליורשו הטבעי של בן-גוריון ומונה בהסכמה כללית לראש הממשלה. בתוך שבוע ימים הקים את ממשלת ישראל האחת עשרה, באותו הרכב קואליציוני שבו פעלה ממשלת ישראל העשירית.
ראש הממשלה - הקדנציה הראשונה 1963–1965.
כשהקים אשכול את ממשלתו, סברו רבים כי בניגוד לבן-גוריון, הוא ימנה כשר ביטחון אדם בעל רקע מתאים לכך, ולא יותיר את התיק בידיו; אולם אשכול החליט לכהן גם כשר הביטחון. בנאום שנשא בכנסת, אחרי הקמת הממשלה, הוא הבהיר שזו "ממשלת המשך" ושיבח את בן-גוריון במילים חמות "כאחד מגדולי החזון וההגשמה של עמנו, בכל הדורות". נראה היה כי אשכול מתכוון ללכת בדרכו של בן-גוריון, ועם זאת - לבזר מעט את ריכוזיות הכח בידי ראש הממשלה, וליצור הנהגה קולקטיבית של "זקני מפא"י".
תקופת כהונתו הראשונה של אשכול כראש ממשלה הייתה תקופה של שלווה ופיתוח. ב-10 ביוני 1964 נחנך המוביל הארצי, מפעל חייו של אשכול. היה זה אות לכך שהמדינה עוסקת בפיתוח ומטפלת בבעיות פנים. המשבר הכלכלי של 1962 טרם חלף, הגם שהנתונים הכלכליים הראו על צמיחה ועל עלייה בתל"ג, אך המשברים בשוק העבודה הלכו והחריפו. דיבורים על 'מיתון' ועל 'ריסון' נשמעו כבר במהלך 1964, והממשלה אכן נקטה בצעדי ריסון תקציבי, ששיאם היה המיתון היזום שבוצע במהלך 1966.
בגבול ירדן שרר שלום דה-פקטו, זאת לאחר מגעים סודיים עם חוסיין מלך ירדן שנוהלו אז, הביאו להבנות. ב-25 בדצמבר 1963 מינה אשכול את יצחק רבין לרמטכ"ל. השקט היחסי הופר בשנת 1965, בעקבות הקמת אש"ף, כשנעשו ניסיונות חוזרים ונשנים לחבלות כנגד המוביל הארצי. ב-28 במאי 1965 ביצע צה"ל פעולת עונשין רחבת היקף כדי לגרום לפעולות החבלה להיפסק. בחזית הסורית שרר שקט מתוח. באוגוסט 1965 הייתה הסלמה עד כדי שימוש באש טנקים וארטילריה, בשל ניסיון סורי להטות את מקורות הירדן; צה"ל הצליח לעצור את המפעל הסורי. אך באופן כללי היו אלו שנים שקטות, שהתאפיינו במיוחד בהחלטה, שהתקבלה בסוף שנת 1963, על קיצור שירות החובה בצה"ל לגברים בארבעה חודשים.
אזרחי ישראל הערבים נהנו מהקלות מסוימות בממשל הצבאי, אשר היה בשלביו האחרונים, זאת לאחר שבפברואר 1963 דחתה הכנסת ברוב דחוק את ההצעה לביטולו.
ב-13 באפריל 1964 הגיע בן-ציון שקולניק, אחיו הצעיר של אשכול, לביקור בישראל, לאחר שקיבל היתר לצאת מברית המועצות כדי להיפגש עם אחיו לראשונה לאחר עשרות שנים. ביקורו אורגן על ידי שגריר ברית המועצות בישראל.
בזירה הבינלאומית הגיע אשכול להישגים. האפיפיור פאולוס השישי ביקר בארץ ב-5 בינואר 1964 – ביקור ראשון מסוגו, שסוקר בהרחבה בתקשורת העולמית.
היחסים עם ארצות הברית הלכו והשתפרו. במאי 1964 ביקר אשכול ביקור ממלכתי בארצות הברית, כראש הממשלה הישראלי הראשון המתקבל לביקור ממלכתי בארצות הברית. הוא הניח את התשתית ליחסים של שיתוף פעולה עם הנשיא לינדון ג'ונסון, שעזרו למדינת ישראל בשנים שלאחר מכן.
ב-1 ביוני נפגש עם ג'ונסון ב. לקראת סוף אותו חודש נסע לביקור בן 13 ימים בצרפת, במהלכו נפגש עם הנשיא שארל דה גול וראש הממשלה ז'ורז' פומפידו.
ב-14 במרץ 1965 החליטה ממשלת ישראל לכונן יחסים דיפלומטיים מלאים עם גרמניה המערבית. בזמן שהופעל לחץ כבד מצד מדינות ערב על גרמניה, ואף על פי שרבים בארץ חשבו כי טרם הגיעה השעה לכונן יחסים עם גרמניה, פחות מעשרים שנה מאז השואה, עלה בידי אשכול להעביר בכנסת את ההכרעה ההיסטורית בעניין זה.
בזירה הפוליטית הפנימית הביאה אישיותו של אשכול לפיוס ורגיעה. בניגוד להתנגדותו רבת השנים של בן-גוריון, הסכים אשכול להעלאת עצמות זאב ז'בוטינסקי לישראל, וקבורתן בטקס ממלכתי בהר הרצל ב-9 ביולי 1964. באווירה של התקדמות שקטה, צוינו אירועים כהתחלת אִכלוס העיר כרמיאל, הקמת מגדל שלום, המכביה השביעית, והתחלת הניסיונות להפעלת הטלוויזיה הישראלית.
הלחץ האמריקני בבעיית הגרעין.
עוד בדצמבר 1960 נחשף הכור הגרעיני בדימונה. נשיא ארצות הברית, ג'ון פיצג'רלד קנדי, הביע דאגה פן הכור ישמש לבניית פצצת אטום, והממשל האמריקאי העלה דרישות חוזרות ונשנות לפיקוח על הנעשה בכור. עד אז הצליח בן-גוריון לרַצות את האמריקנים, אך עם היכנסו לתפקיד עמד אשכול בפני הכרעות חשובות בנושא זה.
שיתוף פעולה ביטחוני הדוק עם צרפת הביא לישראל בין השאר את מטוסי המיראז' 3, וכן חימוש רב נוסף ביחד עם ידע בתחום הגרעין; לעומתם, הציעו האמריקנים חבילת סיוע בחימוש קונבנציונלי (בעיקר מטוסי תקיפה מסוג סקייהוק וטילי קרקע-אוויר מסוג הוק, וכן טנקים מסוג פטון אשר היוו בהמשך את עמוד השדרה של חיל השריון במשך שנים רבות, תחת הכינוי מגח) - כל זאת בתמורה להאטת קצב הפיתוח הגרעיני, לכאורה.
שמעון פרס, שהיה יוזם הקשר עם צרפת ומאבות הכור האטומי ותוכנית הגרעין הישראלית - היה בעד הידוק היחסים המיוחדים עם צרפת, אף במחיר התעמתות עם ארצות הברית. אשכול לא קיבל את דעתו, והגיע להבנה חשאית עם ארצות הברית בדבר קבלת הסיוע האמריקאי והאטת הפיתוח הגרעיני-כביכול.
ההחלטה לא התקבלה בקלות, על אף שנשמרה בסוד מעיני הציבור. פרס ובן-גוריון, לאחר שהחלו לפעול כאופוזיציה פעילה לאשכול בשנת 1965, רמזו ללא הרף על "מחדל ביטחוני" שלו אחראי אשכול. פרופ' ארנסט דוד ברגמן, ממקימי הכור, התפטר אז, כנראה על רקע זה.
הפילוג במפא"י.
אשכול, אשר עם מינויו לראשות הממשלה פעל בתיאום עם בן-גוריון ולפי הקווים שהתווה האחרון, הלך והתרחק מבן-גוריון, ועל כך העידו פעולות כהעלאת עצמות זאב ז'בוטינסקי ארצה (בן-גוריון הוציא בזמנו את חרות ואת ראשיה "אל מחוץ למחנה"). הקרע האמיתי ביניהם נוצר בשאלת צירופה של אחדות העבודה למפא"י. בן-גוריון התנגד לכך, שכן הדבר היה מביא לחיזוק מעמדו של לבון, ולהשבתו עם שאר אנשי קבוצתו "מן היסוד" אל המפלגה. הפגיעה העיקרית הייתה בציפור נפשו של בן-גוריון – שינוי שיטת הבחירות, שלה הטיף זה מכבר, ואשר האיחוד בין אחדות העבודה ובין מפא"י הביא, למעשה, לזניחתה.
באוקטובר 1964 שב בן-גוריון והעלה את נושא "הפרשה" בפני ראש הממשלה אשכול, זאת אחרי שבדיקת משפטנים מצאה כי "ועדת השבעה" עיוותה את הדין. לאחר שהיועץ המשפטי לממשלה משה בן זאב חיווה דעתו כי "ועדת השבעה" פעלה ללא מעמד שיפוטי המוכר בחוק, וכי חוות דעתה נטולת ערך מעבר להבעת דעתם האישית של השרים שהיו חברים בה, החל בן-גוריון במאמצים לכנס את מרכז מפא"י.
משראה אשכול כי נראה שמרכז המפלגה יחליט על חידוש החקירה, נקט בצעד דרמטי, וב-15 בדצמבר 1964 הודיע על התפטרותו מתפקיד ראש הממשלה, שכן אינו חש עצמו חופשי להחליט כרצונו בעניין ממלכתי - הוא הקמת ועדת חקירה משפטית.
ההתפטרות טרפה את קלפיו של בן-גוריון; עתה סירב בן-גוריון להופיע בפני מרכז המפלגה שכן "לא אשחית דברי על אוזן לא שומעת". שרי מפא"י ראו כי הם נדרשים לבחור בין עמדתו של בן-גוריון - שהיא בבחינת "ייקוב הדין את ההר", לבין עמדתו של אשכול; רובם בחרו באשכול. לאחר הפצרות השרים ואחרי שנשיא המדינה הטיל שוב על אשכול להרכיב ממשלה, הוא הרכיב את הממשלה בהרכבה הקודם, בתוך שבוע ימים מאז התפטרותו.
בוועידת מפא"י שהתכנסה בפברואר 1965 נשא אשכול נאום בו קרא להפסיק את העיסוק ב"פרשה", להקים את המערך החדש (המערך הראשון), וכן קרא לבן-גוריון: "תן לי אשראי!". בסיום הוועידה הצביעו רוב הצירים כנגד הצעותיו של בן-גוריון. ב-3 ביוני 1965 העמיד בן-גוריון את עצמו כמועמד המפלגה לראשות הממשלה, אך מרכז מפא"י בחר ברוב גדול דווקא באשכול (179 קולות לעומת 103). ב-2 ביולי פרש בן-גוריון משורות המפלגה יחד עם שישה חברי כנסת נוספים והקים את רשימת פועלי ישראל.
במערכת הבחירות לכנסת השישית, נקט אשכול בצעד חריג, בפעם הראשונה במערכות–הבחירות בישראל, כאשר הקים ארגון חוץ מפלגתי בשם את"א – אזרחים תומכי אשכול, אשר בראשו עמד הרמטכ"ל לשעבר חיים לסקוב. הארגון, שהתיימר לייצג אזרחים שאינם חברי מפא"י, טען כי בבחירות אלו יש להצביע לאשכול בשל היותו נושא דגל המינהל התקין והיציבות השלטונית, ללא כל קשר לשייכות המפלגתית.