המאבק האידאולוגי בין מפא"י לצה"ר בא לידי ביטוי גם בחיי היומיום ביישוב היהודי בארץ ישראל: מאבק על אופי הכלכלה, כשהסתדרות העובדים הכללית מנסה ליצור מבנה של כלכלה ריכוזית שיהיה בשליטתה, מאבק על המדיניות הראויה כלפי השלטונות הבריטיים ועל המדיניות כלפי תושבי הארץ הערבים. המאבק החריף כאשר חיים ארלוזורוב, שהיה מהבולטים באנשי מפא"י ודגל במדיניות פייסנית ביחס לבריטניה, החל במשא ומתן עם השלטונות הנאצים בגרמניה, לביצוע "העברה" של רכוש יהודי מגרמניה לארץ ישראל באמצעות סחורות גרמניות. ז'בוטינסקי דגל והכריז על חרם יהודי כללי על כל תוצרת גרמנית בעידוד ותמיכה של יהודים בגולה ואפילו בקרב חוגי הפועלים בארץ. ארלוזורוב נרצח כמה ימים לאחר שחזר ממשא ומתן בגרמניה. מפא"י וההסתדרות האשימו ברצח את הרוויזיוניסטים, מה שהחמיר את המאבק הפנימי ביישוב.
בקונגרס הציוני ה-18, בשנת 1933, באה לידי ביטוי האשמת הרוויזיוניסטים ברצח, כשמספר הצירים בו זכו היה נמוך מהקונגרס הקודם בשנת 1931. לעומת זאת, לא אבדו הרוויזיוניסטים מכוחם בגולה, והקואליציה שהקימה מפא"י נתמכה רק על ידי מחצית מהצירים בקונגרס. מפא"י הצליחה לכפות לראשונה נשיאות ללא הרוויזיוניסטים כשבן-גוריון נכנס להנהלה הציונית בעודו מכהן כמזכ"ל ההסתדרות.
רצח ארלוזורוב המשיך להשפיע על מערכת היחסים ביישוב היהודי בארץ בין הפועלים והרוויזיוניסטים. שלושה חשודים, חברי התנועה הרוויזיוניסטית, נעצרו בחשד לרצח: אב"א אחימאיר שהקים את "ברית הבריונים" והיה קיצוני בדעותיו נחשד בתכנון הרצח, ואברהם סטבסקי וצבי רוזנבלט נחשדו בביצועו. שני האחרונים זוכו מאשמת הרצח ב-20 ביולי 1934, בעוד אחימאיר ישב שנה במעצר ולבסוף נשפט על הקמת "ברית הבריונים" בלי קשר לרצח ארלוזורוב ונידון לשנה וחצי של מאסר בפועל.
גם אחרי שזוכו השלושה מאשמת רצח ארלוזורוב המשיכה מפא"י להאשים את הרוויזיוניסטים ברצח שלטענתה היה פוליטי. כל מי שהיה בעד הרוויזיוניסטים וזכאותם בכל מה שקשור לרצח הושתק ואף נודה.
המשא ומתן הגלוי שקדם להסכמים.
מספר ימים לאחר הזיכוי של אברהם סטבסקי מאשמת רצח ארלוזורוב, ז'בוטינסקי יצא ביוזמת שלום המכוונת כלפי מפא"י. ב-31 ביולי 1934 פרסמה הצה"ר בסוכנות הידיעות היהודית המרכזית "אגרת שלום" הקוראת למפא"י לשבת לשולחן המשא ומתן במטרה להשיג "מודוס ויוונדי" לפעילות התנועה הציונית. הפנייה הרשמית למפא"י הגיעה לאחר שבוע והחלו דיונים במרכז מפא"י על התגובה ל"אגרת השלום". מפא"י התחבטה האם להיכנס למשא ומתן עם התנועה הרוויזיוניסטית ובסוף בחרה שלא להגיב באופן ישיר ל"אגרת השלום".
ב-9 באוגוסט פרסם "דבר" מאמר ראשי שכותרתו "טובלים ושרץ בידם", שקבע כי "המשא ומתן הבלתי אמצעי בין תנועת העבודה ובין המפלגה הרוויזיוניסטית איננו הדרך העיקרית לפתרון השאלה". ב-24 באוגוסט פרסמה מפא"י קריאה למשא ומתן עם כל המפלגות בתנועה הציונית.
במקביל החלו דיונים דומים בהנהלה הציונית ב-6 באוגוסט 1934. שאיפתה הייתה לקיים דיאלוג כלל-תנועתי והתקבלה החלטה לזמן את הסיעות השונות בתנועה הציונית לשיחות על השכנת שלום בתנועה. הזמנה זו דומה להחלטת מפא"י ולכן לא התקיימו שיחות ישירות בין נציגי מפא"י ונציגי הסיעות השונות אלא רק שיחות בראשות נציגי ההנהלה הציונית. כחלק מתהליך זה התקיימו שתי שיחות עם נציגי התנועה הרוויזיוניסטית ב-8 באוקטובר 1934.
בלי קשר למשא ומתן בין ההנהלה הציונית והתנועה הרוויזיוניסטית, התנהלה פגישה בין ראשי שתי הסתדרויות העובדים בארץ, ביוזמת פנחס רוטנברג, מייסד חברת החשמל, שהיה מגדולי המעסיקים ביישוב. היה ניסיון לאחד בין "הסתדרות העובדים הכללית" ו"הסתדרות העובדים הלאומית" במטרה להגיע להקמת לשכת עבודה כללית שתהיה אחראית על חלוקת העבודה במשק לכלל העובדים ועל יישוב המחלוקות בין עובדים ומעבידים. את "הסתדרות העובדים הכללית" ייצגו דוד רמז שהיה יו"ר ההסתדרות, וברל רפטור שהיה חבר מרכז מפא"י. את "הסתדרות העובדים הלאומית" ייצגו עקיבא ברון שהיה מזכ"ל הארגון, ואברהם וינשל שהיה יו"ר הצה"ר בארץ ישראל.
פגישה זו לא השיגה את מטרתה כיוון שנציגי הרוויזיוניסטים דרשו לדון בשאלות מדיניות שלטענתם עמדו בבסיס המחלוקת בין התנועות ולא בשאלת לשכת העבודה.
המשא ומתן החשאי - הסכמי לונדון.
לאחר השיחות בין הנציגים הרוויזיוניסטים לנציגי ההנהלה הציונית, שבהן לא הושג דבר, הבין בן-גוריון שהנציגים הם רק שליחים של ז'בוטינסקי וכדי להתקדם במשא ומתן עליו להפגש איתו פנים אל פנים.
ב-8 באוקטובר הגיע בן-גוריון ללונדון. בין 10 באוקטובר 1934 ל-11 בנובמבר התקיימו 16 פגישות בין ז'בוטינסקי ובן-גוריון כשבחמש מהן נכח גם פנחס רוטנברג, שהיה המתווך בין הצדדים.
הפגישה הראשונה בסדרה נערכה בחדר המלון של רוטנברג. שאר הפגישות נערכו גם במלון של בן-גוריון ובמלון של ז'בוטינסקי. הפגישות התקיימו בחשאי, בלי ידיעתם של חברי התנועות בארץ ובלי התייעצות איתם או עם ראשי התנועות. לבן-גוריון היו רק שני שותפים לסוד: דב הוז וברל לוקר, שהיו אז בלונדון, ואיתם נועץ מדי פעם.
המשא ומתן נחלק לשניים: החלק הראשון כלל 7 פגישות והוקדש לדיונים בנושא האלימות בין המפלגות והיחסים בין הפועלים. החלק השני כלל 9 פגישות ובו דנו בהסכם שלום כולל שהיה אמור להביא לסיום הסכסוך הפוליטי בין המחנות בתנועה הציונית.
לאחר פגישתם ב-26 באוקטובר אצל רוטנברג, ערכו השניים טיוטות לשני הסכמים: הסכם הפסקת האלימות והסכם הסדרת העבודה המאורגנת.
ההסכם הראשון: מניעת אלימות ביישוב.
הסכם "נימוסי הפולמוס המפלגתי" שדן בנושא האלימות בין המפלגות כלל 7 סעיפים והם:
הסכם זה נכנס לתוקף באופן מיידי ולא דרש אישורים של המוסדות אותם ייצגו בן-גוריון וז'בוטינסקי.
ההסכם השני: הסכם עבודה למניעת עימותים בין אנשי בית"ר לאנשי ההסתדרות.
לעומת ההסכם הראשון, "הסכם העבודה בין ההסתדרות והעובדים הרוויזיוניסטים" לא נכנס לתוקף לאחר החתימה כיוון שהיה זקוק לאישור של הסתדרויות העובדים בשני הצדדים. הצעת ההסכם שהוגשה להסתדרויות העובדים בארץ כללה 13 סעיפים והם:
שני הסעיפים, 10 ו-11 נשארו פתוחים. סעיפים אלה קובעים את אחוז המיעוט אשר ישפיע על תהליך קבלת ההחלטות בדבר פתיחת שביתה. הסעיף מתייחס ברובו לפועלים הרוויזיוניסטים כיוון שכמעט ולא היו מקומות שבהם היו הפועלים הרוויזיוניסטים רוב. בן-גוריון הציע שהאחוז ייקבע על 25% בעוד ז'בוטינסקי הציע 15% בטענה שבשום מקום עבודה לא מגיעים הפועלים הרוויזיוניסטים ל-25%. שני הסעיפים הללו ריכזו את מרבית ההתנגדות להסכם והיוו את לב ההסכם כולו.
התגובות להסכם.
ב-28 באוקטובר נתפרסם ההסכם בין השניים בעיתוני ארץ ישראל, והתקבל אצל חברי מפלגתו של בן-גוריון בשלילה. בן-גוריון, בתגובה, כתב מכתב לחבריו, בו הסביר מדוע קיים את המשא ומתן עם ז'בוטינסקי ללא אישור מרכז המפלגה. הוא טען כי עשה זאת כחבר ההנהלה הציונית ומשום שלא היה טעם לשאת ולתת עם שליחים בלבד של "האיש המכריע במפלגה הרוויזיוניסטית", והוסיף: "אני מצטער לראות, שמפלגתנו אינה מעריכה עדיין כראוי את גודל האחריות המוטל עליה כמפלגה, הנושאת עכשיו יותר ממישהו אחר בעול כל התנועה הציונית, ושבידה נמצא גורל העם העברי באחת השעות החמורות והגורליות ביותר בדורנו". ז'בוטינסקי, לעומת זאת, הורה לכל גופי הצה"ר לציית לסעיפי ההסכם עם ההנהלה הציונית, "אפילו לא יקיים אותה הצד השני להסכם". למרות הלחצים עליו, שלא לחתום על הסכם שלישי, חידש בן-גוריון את המשא ומתן.
המישור האישי.
ב-28 באוקטובר 1934 כתב בן-גוריון לז'בוטינסקי: "שום דבר שיקרה מעכשיו לא ישנה את העובדה, ששנינו נפגשנו ובמשך שעות רבות שכחנו את כל אשר עמד מאחורינו - וחרדה רבה לכבוד התנועה ולהצלחת מפעלה, מתוך אמון הדדי ומתוך כבוד הדדי הניעה אותנו למאמץ משותף". ב-29 באוקטובר ענה לו ז'בוטינסקי: "יש כאן הרבה יותר מסנטימנטליות אם אני מתרגש עד עומק מהותי בשמעי, אחרי שנים כל-כך רבות - ואיזה שנים! - מלים כ'חבר וידיד' מפיך אתה. מכבר שכחתי את הלשון הזאת, אולי בעצמי גרמתי לשתישכח לשון זו בינינו". ז'בוטינסקי הוסיף לגבי ההסכם: "עוד לפני שבוע הייתי מתפלא לאדם שיאמין באפשרותו, אבל עתה גם אני מאמין". ב-4 בנובמבר כתב ז'בוטינסקי לעדנה יעקבי, בעלת הדירה בלונדון, בה נפגש עם בן-גוריון מספר פעמים: "ביתכם הוא הבמה ההיסטורית לרוב שיחותי עם איש התגרות הגדול ביותר של אנשי השמאל בארץ ישראל - בן-גוריון. הידידות והלבביות ההדדית בינינו מפתיעות את שנינו, וכאשר יוודע למפלגתו כיצד הוא בישל למעני ביצים על כירת הגז שלכם כדי שאוכל, יעשו לו לינץ'".
ההסכם השלישי: נושאים ציוניים.
ב-31 באוקטובר החל המשא ומתן על ההסכם השלישי, שנועד לפתור את הבעיות הפוליטיות בין הצה"ר והתנועה הציונית. לאחר מספר פגישות בין שני האישים, נחתם הסכם שעיקריו היו:
את ההסכם השלישי כינו ז'בוטינסקי ובן-גוריון "ההסכם הגדול". כשנחתם ההסכם השלישי, נסתיים למעשה המשא ומתן, ולא חודש למרות שסוכם על כך.
קבלת ההסכמים על ידי המפלגות.
במחנה הרוויזיוניסטי בארץ ישראל נמתחה ביקורת על ההסכמים שפורשו כניסיון למנוע את פרישת התנועה מההסתדרות הציונית. למרות ההתנגדות למשא ומתן עם מפא"י מכיוון ראשי התנועה בארץ, אושרו ההסכמים בוועידת הצה"ר בכינוס העולמי השישי בקרקוב (בינואר 1935), כיוון שז'בוטינסקי הפעיל לחץ וכינס לצידו את ראשי הצה"ר בגולה.
בין הצירים שתקפו את ההסכם היה גם מנחם בגין הצעיר, שהזכיר לז'בוטינסקי כי "בן-גוריון קרא לו ולדימיר היטלר".