חילופי הדברים בין בן-גוריון ובין אשכול הפכו לקשים ואישיים. בישיבת מזכירות מפא"י ב-13 במאי אמר אשכול על בן-גוריון כי "יש דברים שהאיש הזה, איתו עבדתי בממשלה 12 שנים, לא היו בסדר אצלו, אבל הוא אינו מגלה הכל. משום כמה נימוקים, ובעיקר משום כבוד עצמנו, וכבוד חמישים השנים, ואף למעלה מחמישים שנים, לא אטפל בזה". הדברים נוצלו לניגוח פוליטי של התנועה המפורדת כפי שבא לידי ביטוי בהצעתו של מנחם בגין מנהיג חרות, לפיה תוקם ועדת חקירה ממלכתית "לחקור הדברים שלא בסדר אצל ראש הממשלה הראשון, לפי דבריו של ראש הממשלה הנוכחי".
לקראת ראשית חודש יולי, כבר היו אנשי "המיעוט" מגובשים, ואף חילקו ביניהם את התפקידים במפלגה העתידית. כהצעת פשרה ברגע האחרון הועלתה מועמדותו של חיים צדוק לראשות הממשלה, במקום בן-גוריון ואשכול, אך הצעה זו לא הגיעה לשלבים מעשיים.
ב-29 ביוני, לאחר ישיבה שהתקיימה בביתו של בן-גוריון, הייתה המפלגה החדשה עובדה מוגמרת. על אף שאנשיה טענו כי אינם מקימים מפלגה חדשה, וכי הם מפא"י "האמיתית", קמה ונהייתה המפלגה החדשה. חבריה המרכזיים היו בן-גוריון יוסף אלמוגי, גדעון בן-ישראל, עמוס דגני, חנה למדן, יזהר סמילנסקי ושמעון פרס.
משה דיין התלבט תקופה ארוכה בהקשר להמשך דרכו הפוליטית. לאחר התפטרותו מן הממשלה, בנובמבר, עסק ב"פיתוח הדיג בים סוף" במסגרת הנהלת החברה לדיג "יונה", ורמז כי הוא כנגד פילוג, וכי לא יתמודד בבחירות הבאות מטעם רפ"י או מטעם מפא"י. הניסיונות להעבירו למחנה זה או אחר נמשכו כשלושה חודשים. בסופו של דבר התייצב דיין לימין בן-גוריון, אם כי הצטרפות זו לא נעשתה בלב שלם.
כנגד "המורדים" הוגשה לבית הדין של מפא"י תביעה ל"דין חברים". ב-1 בספטמבר 1965 החליט בית הדין של מפא"י על הוצאתם של דוד בן-גוריון, יוסף אלמוגי, שמעון פרס וחנה למדן מן המפלגה, וזאת בשל כך ש"הם הודו בהקמת רפ"י; הם הודו בהקמת סיעה נפרדת בכנסת; הם הודו בפעילותם ברפ"י; בן-גוריון הודיע בשמם כי אינם מקבלים את ההחלטה כפי שהחליט עליה הרוב בוועידה הקודמת; הם מופיעים בבחירות הקרובות כסיעה נפרדת". בן-גוריון, שהנהיג את המפלגה במשך עשרות שנים והביא אותה לגדולים בהישגיה, גורש ממנה.
מערכת הבחירות לכנסת השישית.
העילה המרכזית להקמת רפ"י, כפי שהובנה על ידי רוב הציבור, הייתה "הפרשה" ונראה היה למרבית הציבור כי העיסוק ב"פרשה" מיותר וזמנה עבר. אך תוכניתו של בן-גוריון בהקמת המפלגה המתחרה למפא"י הייתה קשורה ל"פרשה" רק באופן רופף. הנחתו הייתה כי המפלגה עתידה לקבל בין 20 ל-25 מנדטים, בעיקר על חשבון "המערך" (הראשון), דבר שיאפשר לו לעמוד בראש הקואליציה שתקים את הממשלה הבאה. לאחר מכן, שאף להתאחד עם מפא"י, לאחר שזו תטוהר מתומכי לבון ואשכול. בממשלה החדשה שתוקם בראשותו, כשלצידו הצעירים, והיא נקייה מאנשי "דור הביניים" השנואים, שאף בן-גוריון לתקן את המשטר במדינה לפי דרכו, ולשנות את שיטת הבחירות. לדעת חוקרים רבים הייתה זו תוכנית בלתי ריאלית ומנותקת מן המציאות.
בהקמת המפלגה ובמערכת הבחירות התעלם בן-גוריון מסקרים, מדויקים למדי, שערכה ד"ר רבקה בר יוסף מהחוג לסוציולוגיה באוניברסיטה העברית, ואשר העניקו למפלגה החדשה כ-8% מן הקולות. דעתו של בן-גוריון הייתה נחושה, והוא לא נתן לתחזיות להפריע לו בקו הפעולה שעליו החליט. דיין אף הוא היה פסימי, ולימים יאמר כי ביקש להרשם במקום השביעי ברשימת המפלגה לכנסת, שכן העריך כי המפלגה תקבל שבעה מנדטים.
המפלגה החדשה שידרה תדמית צעירה, טכנוקרטית ואקטיביסטית. פעילותה הייתה רבה בקרב הסטודנטים ובקרב העולים. המפלגה הייתה ל"מפלגה האופנתית", וידיעות בעיתונות פרסמו על "אנשי מדע ידועי שם" שהצטרפו לשורותיה, ועל "התעוררות בקרב האינטליגנציה". אנשים כשמעון פרס שידרו יעילות, נחישות, וקו מדיני תקיף ואקטיבי, וזאת אל מול הרפיון שיוחס ל"דור הביניים" במפא"י. אנשי רפ"י לא היו מחויבים לקווים האידאולוגיים או לדרכי הפעולה של מפא"י, ולא היו מחויבים לעקרונות הסוציאליזם. המפלגה הוציאה ביטאון בשם "מבט חדש" (בעריכת ד"ר אברהם וולפנזון) אשר ביטא רעיונות שייצבו את המפלגה מבחינה רעיונית לא בשמאל כי אם במרכז, אם לא ימינה מכך.
ברשימה לכנסת שהציגה רפ"י היו שמות נוצצים, רמטכ"לים לשעבר כמשה דיין וצבי צור, ו"צעירים" כיצחק נבון, טדי קולק ושמעון פרס, שלכאורה נראו כמורדים היוצאים מול המנגנון המפלגתי המפא"יניקי שנתפס כמסואב ובירוקרטי (על אף שבן-גוריון שאף להתאחד בסופו של דבר עם מפא"י).
לעומתם נקט אשכול בצעד חריג, בפעם הראשונה במערכות הבחירות בישראל, כאשר הקים ארגון חוץ מפלגתי בשם את"א, אזרחים תומכי אשכול, אשר בראשו עמד הרמטכ"ל לשעבר חיים לסקוב. הארגון, שהתיימר לייצג אזרחים שאינם חברי מפא"י, טען כי בבחירות אלו יש להצביע לאשכול בשל היותו נושא דגל המינהל התקין והיציבות השלטונית, ללא כל קשר לשייכות המפלגתית. באופן אירוני נמנה עם הפעילים באת"א בנימין גיבלי, שהיה בין המעורבים העיקריים ב"פרשה", ואשר עיקרו של הסכסוך בין בן-גוריון ובין אשכול היה בכך שבן-גוריון רצה להסיט את כובד האחריות מגיבלי אל לבון כנותן "ההוראה".
העימות בין הצדדים היה חריף ביותר. שר המשפטים יעקב שמשון שפירא, איש מפא"י, התבטא כי רפ"י היא "קבוצה נאו פשיסטית". משפגש בן-גוריון בשר בכור-שלום שטרית במסדרונות הכנסת סירב ללחוץ את ידו. תקריות אלו העיבו על מערכת הבחירות, אשר הייתה, כלשונו של בן-גוריון ביומנו, "מערכת הבחירות המכוערת ביותר שהתקיימה בישראל".
הבחירות ותוצאותיהן.
בבחירות לכנסת השישית, שנערכו ב-2 בנובמבר 1965, זכתה רפ"י ב-10 מנדטים.
חברי הכנסת שכיהנו מטעם המפלגה היו: יוסף אלמוגי, אריה בהיר, דוד בן-גוריון, מרדכי בן-פורת, מטילדה גז, עמוס דגני, משה דיין, יצחק נבון, מרדכי סורקיס, יזהר סמילנסקי, שמעון פרס וצבי צור. (במהלך כהונת הכנסת השישית פרשו מן הכנסת צור וסמילנסקי, ובמקומם באו בהיר ודגני).
כישלונה של רפ"י היה חרוץ. לא רק שלא הצליחה לקבל את מספר המנדטים המקווה, אלא שיריבותיה, מפלגות הפועלים מפא"י ואחדות העבודה (שרצו במשותף) ומפ"ם עלו בכוחן, ולא נזקקו לה על מנת להרכיב ממשלה. הישגה היחיד של רפ"י היה העמדתו של טדי קולק בראש עיריית ירושלים, במקום מרדכי איש שלום ראש העירייה מטעם מפא"י.
שנות האופוזיציה.
לאחר הבחירות נותרה רפ"י באופוזיציה. הכישלון בבחירות היווה את נקודת המפנה האישית אצל בן-גוריון. מכאן ואילך ישקע בחוסר רלוונטיות פוליטית, ולא תהיה לו עוד השפעה על מהלך העניינים. משה דיין, אף הוא לא ראה עצמו משתלב בכנסת כאופוזיציונר, ובילה את זמנו במסע לווייטנאם, משם כתב סדרת כתבות לעיתוני העולם. עם שובו, בקיץ 1966, ביקש לשחררו מתפקידו כיושב ראש הסיעה בכנסת.
אחד המהלכים העיקריים שביצעה הסיעה כסיעת אופוזיציה, הייתה תקיפתו של אשכול בשל "מחדל ביטחוני" עלום שבו הואשם אשכול על ידי בן-גוריון ופרס, בנובמבר 1966. נראה כי המדובר ב"פרשת בן ברקה" בה יוחס לסוכני המוסד סיוע לרצח האופוזיציונר המרוקני מהדי בן ברקה בפריז. עניין זה הביא למהומה רבה מאחורי הקלעים של הממסד הביטחוני בארץ ולחילופי האשמות בין איסר הראל, שהיה יועצו של אשכול לענייני מודיעין, ובין ראש המוסד מאיר עמית, באופן שהזכיר מאוד את "העסק הביש". שמועות בעניין זה החלו עוד בתחילת שנת 1966, לאחר שפרטיו התפרסמו במגזין פורנוגרפי בשם "בול", דבר שהביא למעצרם של עורכיו ולהחרמת העיתונים מעל הדוכנים. עם זאת, יש האומרים כי אותו "מחדל ביטחוני" הוא הסכמתו של אשכול, עוד בשנת 1963 להאט את קצב פיתוח פצצת הגרעין הישראלית, ובתמורה לקבל מארצות הברית סיוע בנשק קונבנציונלי.
לבסוף נעלם העניין כלעומת שבא, לאחר שדיין הציע לבן-גוריון כי זה יחשוף בפני ועדת החוץ והביטחון של הכנסת את הפרטים הידועים לו. בן-גוריון סירב, וכתוצאה מכך ביקש דיין מבן-גוריון שלא להזכיר עוד את העניין, ואף דרש ממנו שלא להעמיד את סיעת רפ"י בפני עובדות.
הכניסה לממשלת האחדות ומלחמת ששת הימים.
המשבר שקדם לפרוץ מלחמת ששת הימים הביא להכרה הציבורית כי הגיעה העת להכניס את אנשי רפ"י אל הממשלה. במיוחד רבה הייתה הביקורת על אפרוריותו של אשכול ועל אופיו הלא אקטיביסטי בעיקר בתפקיד שר הביטחון, והציבור חש כי הוא אינו האיש המתאים לכך.
עוד ב-23 במאי 1967 פנו אנשי המפד"ל ובראשם חיים משה שפירא אל אשכול, בדרישה לצרף את אנשי רפ"י ואת אנשי גח"ל אל הממשלה. הדרישה נדחתה על הסף. עם זאת נמשכו המגעים במשך הימים שלאחר מכן. ברית חדשה ומפתיעה בין מנחם בגין ובין דוד בן-גוריון לחצה להקמת ממשלת ליכוד לאומי. אל מולם ניצבו אנשי "דור הביניים" כגולדה מאיר, נחושים מתמיד למנוע את עמדות הכוח מיריביהם, וכן אנשי מפ"ם אשר ראו באנשי רפ"י מתנגדים ל"תנועת הפועלים".
נראה היה כי העמדתו של בן-גוריון, בן ה-81, בעמדת הנהגה לאומית, אל נוכח המשבר, אינה עוד ריאלית, והתקוות של אנשי רפ"י, כמו גם של רוב הציבור, הופנו אל משה דיין. עם פרוץ המשבר, קיבל דיין מאשכול רכב צבאי, ולבוש בדרגות רב-אלוף ביצע סיורים בקווים, על מנת לעמוד על המצב. בשלב מסוים אף הסכים להתמנות ל"מפקד חזית הדרום".