ביולי 1932 קרא בן־גוריון במועצת מפא"י לתנועת הפועלים "לכבוש את ההסתדרות הציונית", כלומר: להפוך לרוב בהסתדרות הציונית. לשם כך יצא למסע בן שלושה חודשים, בו נסע בין ריכוזי היהודים במזרח אירופה כדי לבדוק את סיכויי תוכניתו ולהשתתף בהקמת "האיחוד העולמי" של מפלגות הפועלים הציוניות. ב־27 באוקטובר הציג בפני מרכז מפא"י תוכנית להשגת רוב בקונגרס הציוני הבא, אולם נתקל בספקנות רבה. כעבור שלושה ימים העלה את תוכניתו בפני ועידת מפא"י ודרש בנאומו להפוך את תנועת הפועלים "ממעמד לעם", כלומר לרכז סביבה גם כוחות לא־סוציאליסטיים. דרישתו זו נתקבלה בחששות שתנועת הפועלים תאבד את צביונה. באמצע מרץ 1933 דרש בכינוס מרכז מפא"י שלא להעמיד במרכז תעמולת הבחירות את התמיכה בויצמן, ובמקום זאת להתרכז במאבק נגד הרוויזיוניסטים. בסופו של דבר התקבלה החלטה ברוח זו. ב־31 במרץ יצא שוב למזרח אירופה, למסע בן ארבעה חודשים של מערכת בחירות לקונגרס הציוני. ב־9 באפריל הגיע לוורשה מצויד בחומרי תעמולה. הוא גייס בוחרים וגייס פעילים צעירים מחברי החלוץ ותנועות הנוער ושלח אותם למכור שקלים (שהעניקו את זכות ההצבעה בקונגרס ל"שוקלי השקל") ברחבי פולין. הוא עצמו נסע לנאום באולמות מלאים בערים שונות בפולין, בגליציה ובמדינות הבלטיות. הוא התנייד בין הערים והעיירות ברכבת, במכונית ובמטוס. כבר באספת הבחירות הראשונה בה השתתף בווינה, השווה את ז'בוטינסקי להיטלר. עוד ב־18 בפברואר 1933, באספה בבית העם בתל אביב, כינה את ז'בוטינסקי "ולדימיר היטלר". מערכת הבחירות כללה השמצות הדדיות והתקפות אישיות, שלוו באלימות. ב־17 ביוני הגיע בן־גוריון לווילנה והתעלף כאשר נודע לו על רצח ארלוזורוב. הרצח הפך לנושא העיקרי במערכת הבחירות, ובמשך כל תקופה זו לא חדל בן־גוריון להתקיף על כך את הרוויזיוניסטים. כמו כן הוא התנגד לדחיית הבחירות. תנועות הפועלים זכו בניצחון גדול ובן־גוריון הוכר עתה כמנהיג תנועת הפועלים בארץ ישראל. לאחר הבחירות נערך הקונגרס הציוני בפראג ובן־גוריון זכה לתשואות. הוא הפך למנהיג המדיני הבכיר בתנועה ובעקבות לחץ מצד מנהיגי אגף הפועלים, הסכים להיכנס להנהלה הציונית, אולם בתנאי שלא יקבל על עצמו שום תיק. בתוקף תפקידו החדש, הוכנס לביתו בתל אביב מכשיר טלפון ו"ההגנה" הפקידה עליו שומר ראש. ענייני התנועה הציונית והנושאים המדיניים מילאו עתה את זמנו. במהירות רבה למד את רזי הדיפלומטיה הציונית בלונדון ואת הפוליטיקה הבריטית. לאחר קיום הקונגרס, נתמנה במקום ארלוזורוב למנהל המחלקה המדינית של הסוכנות היהודית. עד 1935 כיהן בתפקיד זה במקביל לתפקידו כמזכיר ההסתדרות.
בתחילת שנות ה־30 בנה בן־גוריון בית בשכונת העובדים סמוך לים (בהווה בשדרות בן־גוריון). הבית בן שתי הקומות היה גדול מכל הבתים בשכונה, והוסיף לעול החובות שבן־גוריון כבר היה שקוע בו.
בינואר 1934, לאחר שקנה וקרא את הספר "מיין קאמפף" ופחות משנה לאחר עליית היטלר לשלטון בגרמניה, חזה בן־גוריון בוועידת ההסתדרות את העתיד לבוא: "שלטונו של היטלר מעמיד בסכנה את העם היהודי כולו ... משטר היטלר אינו יכול להתקיים זמן רב בלי מלחמת נקם נגד צרפת, פולין, צ'כיה ושאר הארצות השכנות ... אין ספק שאנו עומדים עכשיו לפני סכנת מלחמה לא פחות מאשר לפני 1914, והמלחמה אשר תפרוץ הפעם...תעלה בחורבנה ובמוראותיה על מלחמת העולם האחרונה ... אולי רק ארבע או חמש שנים (אם לא פחות) עומדות בינינו לבין היום הנורא ההוא".
הסכמים עם ז'בוטינסקי 1934–1935.
בן־גוריון היה התקיף ביותר בתוך קבוצת חבריו לגבי האמצעים שיש לנקוט במאבק נגד הרוויזיוניסטים. בפברואר 1934 דרש להקים כוח מאורגן שיופקד "נגד האלימות הרוויזיוניסטית" של אנשי בית"ר. דעתו נתקבלה וכך הוקמו "פלוגות הפועל". ב־31 ביולי 1934 ניסח זאב ז'בוטינסקי, מנהיג התנועה הרוויזיוניסטית, מכתב להנהגת מפא"י, בו הציע לפתוח בשיחות ישירות, כדי לעקור את מעשי האלימות בין יהודים. לאור המצב בתנועה הציונית והחמרת מצב היהודים באירופה, סבר בן־גוריון כי המשך המאבק האלים עלול לפלג את התנועה ולחבל במאמץ הציוני לעלייה והתיישבות, ולכן החליט לפנות להידברות. הוא תבע ממפלגתו להיענות להצעה ולהיכנס למשא ומתן, אולם תביעתו נדחתה, ובמקומה הצליח להעביר החלטה ליזום פגישות עם מספר מפלגות, ובהן גם הרוויזיוניסטים. לאחר ביקור בפולין ובגרמניה, הגיע ב־8 באוקטובר ללונדון ונענה להצעת פנחס רוטנברג להיפגש עם ז'בוטינסקי. ב־10 באוקטובר קיים בלונדון פגישה ראשונה מתוך סדרת פגישות עם ז'בוטינסקי שנערכו במשך חודש ימים, שבסופה חתמו השניים על מספר הסכמים (הסכמי בן־גוריון–ז'בוטינסקי). בן־גוריון ניסה לשכנע את חבריו במפלגה לאשר את ההסכם עם ז'בוטינסקי. היה לו אמנם רוב במרכז מפא"י, אולם כדי למנוע פילוג, נאלץ בן־גוריון, באופן יוצא דופן, להביא אותו לאישור במשאל עם בהסתדרות, שם הוא נדחה ברוב ברור ב־24 במרץ 1935. יוקרתו של בן־גוריון נפגעה אמנם, אולם מעמדו כמנהיגה העולה של תנועת הפועלים לא נתערער. ב־30 במרץ כתב ז'בוטינסקי לבן־גוריון: "לא נשתנתה בי ההערכה שלמדתי בלונדון להעריך את האיש בן־גוריון ואת שאיפתו". אולם כשבועיים בלבד לאחר הכשלת ההסכם, החליטו הרוויזיוניסטים לפרוש מההסתדרות הציונית. לאחר מכן השיב בן־גוריון לז'בוטינסקי: "פרק לונדון לא יימחה מלבי... ואם נגזר עלינו להילחם – תדע, שבין 'אויביך' יש אדם המוקיר אותך וכואב את כאבך [...] עודני מאמין באפשרות 'השלום הגדול'".
פגישות עם מנהיגים פלסטינים בשנות ה־30.
בתחילת שנות ה־30 החל בן־גוריון לעבור תהליך בנוגע לבעיה הערבית, שנמשך עד לשלהי אותו עשור. הוא הבין כי מול התנועה הציונית עומדת תנועה לאומית ערבית־פלסטינית, והגיע למסקנה שעליו ליצור קשר עם מנהיגיה ולשאת ולתת עמם. הוא בחר לפנות אל הפרקליט האמיד מוסא אל־עלמי, שהיה מקורב הן אל המופתי אמין אל־חוסייני והן אל ראשי מפלגת אל־איסתקלאל ("העצמאות"), ובתחילת אפריל 1934 נפגש עמו לראשונה בביתו של משה שרת בירושלים. בן־גוריון תיאר בפניו עד כמה מועילה העלייה היהודית לארץ ישראל ולתושביה הערבים, אולם עלמי השיב: "אני בוחר שהארץ תהיה עניה ושוממה אפילו עוד מאה שנה, עד שאנחנו הערבים נהיה מוכשרים בכוח עצמנו להפריחה ולפתחה". הייתה זו הפעם הראשונה ששמע מפיו של מנהיג ערבי, כיצד משתקפת הציונות בעיני הערבים. הוא הציע בפני עלמי הקמת פדרציה ערבית, שאליה תצטרף המדינה היהודית, וכך יהוו ערביי ארץ ישראל מיעוט במדינה היהודית, אך חלק מהרוב הערבי הגדול בפדרציה. עלמי הסכים לדון בכך ובאמצע אוגוסט ביקר אותו בן־גוריון בביתו הכפרי ליד ירושלים. בן־גוריון הציע תוכנית בת שני שלבים: שלטון יהודי־ערבי משותף, שבו מעמד שווה לשתי הקהילות, שלא על פי יחס מספרי, ומאוחר יותר מדינה יהודית משני עברי הירדן, שתהיה חלק מפדרציה אזורית שתכלול את עיראק. הייתה זו הראשונה בסדרת שיחות שקיימו השניים בביתו הכפרי של עלמי ובדירתו בירושלים. תמורת הסכמה לתוכניתו, הציע בן־גוריון עזרה לערביי ארץ ישראל בחקלאות ובתעשייה ואת עזרת יהודי העולם לפיתוח ארצות ערב. לאחר מספר שיחות, דיווח עליהן עלמי למופתי אל־חוסייני. בהמלצת עלמי, נסע בן־גוריון לז'נבה ונפגש עם שכיב ארסלן ואחסאן ביי אל־ג'ברי, ראשי ה"אסתקלאל". אלה דחו את כל הצעותיו ועמדו על כך שהתנאי להסכם הוא מעמד של מיעוט נצחי ליהודים בארץ ישראל. בדצמבר 1934 פרסמו את שיחתם הסודית בביטאון של המשלחת הסורית־פלסטינית לחבר הלאומים. במקביל, נפגש בחשאי בירושלים עם ריאד א־סולח, ובביתו של יהודה לייב מאגנס נפגש עם עווני עבד אל־האדי, מנהיג ה"אסתקלאל" בארץ ישראל. באפריל 1936, בזמן המרד הערבי הגדול, נפגש בחשאי מספר פעמים עם ג'ורג' אנטוניוס, בדירתו של מאגנס ובביתו של אנטוניוס. בשנים 1937–1938 נפגש גם עם בכירים בממשל הסעודי ובלונדון שוחח עם מוסא כאט'ם אל־חוסייני. כל השיחות נסתיימו בלא כלום.
יושב ראש הנהלת הסוכנות היהודית 1935–1948.
באוגוסט 1935 נבחר בן־גוריון מטעם מפא"י ליושב ראש הנהלת הסוכנות היהודית, שהייתה הגוף המרכזי בניהול היישוב היהודי בארץ ישראל, וליושב ראש ההנהלה הציונית, שהיא הוועד הפועל המצומצם של ההסתדרות הציונית העולמית. בקונגרס הציוני ה־19 בלוצרן באותה שנה החליט לנאום ביידיש, כדי להביא את חזון ההגשמה הציונית לצירים, שרובם לא הבינו עברית, וזאת אף על פי שעבורו היה כרוך בכך קושי אידאולוגי ומעשי.
עם כניסתו לתפקיד ראש ההנהלה הציונית, העביר את מחלקת הארגון לירושלים ובכך העביר את מוקד הפעולה מלונדון לארץ ישראל. כדי לייעל את ההנהלה, צמצם את מספר חבריה לשבעה.
בזמן מאורעות 1936–1939.
עם פרוץ מאורעות תרצ"ו–תרצ"ט (1936) היה בן־גוריון מיוזמי מדיניות ההבלגה.
הוא דרש בתוקף שה"הגנה" לא תיגרר לטרור נגדי וסבר שאסור ליישוב להגיע לעימות עם הבריטים, כדי לשמור על אהדתם. מתוך חשש שבריטניה תשלח ועדת חקירה לארץ ישראל שתוליד "ספר לבן" נוסף, יצא ללונדון והצטרף אל ויצמן בניהול המערכה לגיוס תמיכה בעמדה הציונית, שאכן זכתה לתמיכת רוב המשתתפים בוויכוח שהתקיים בפרלמנט, וגם לתמיכת העיתונות.