התפתחות משמעותית ברכש הנשק ל"הגנה" חלה ב-1936, כתוצאה מאירועי המרד הערבי הגדול, ביוזמת שליח "ההגנה" בפולין יהודה ארזי, שקיבל רישיון מממשלת פולין לרכישת נשק באופן חשאי, כשמטרתם הייתה לעודד את יהודי פולין לעלות ארצה. ארזי החל לרכוש רובים, מקלעים, רימוני יד וכדורי תחמושת ברישיון הפולנים ולהבריחם ארצה בתוך גלגלי מכבשים. משלוחים אלה שינו את תפיסת ההגנה, שלא להתלות יותר ברכישות מקומיות של נשק. הוא קנה גם מכונות תעשייה שתאפשר לארגון לייצר בארץ תחמושת כדורים ו"ההגנה" הצליחה להעבירם ארצה בעורמה. לאחר מכן הצליח ארזי לארגן ב-28 קיבוצי ההכשרה של "החלוץ" בפולין קורסים להכשרת מדריכי נשק ואימוני נשק למאות צעירים המיועדים לעלייה בחסות צבא פולין.
בתחילת שנות השלושים היה ייצור הכדורים מצומצם בהיקפו בבתי המלאכה בשכונת בורוכוב בגבעתיים, ומ-1936 הוא גדל בהיקפו ועבר לבית חרושת בתל אביב שלימים ייקרא "מכון א'", שם הוסתר גם סליק גדול ויוצרו חומרי נפץ שונים. חלק קטן מהייצור נשאר בבורוכוב, ובהמשך נוסדו בית יציקה מרכזי לרימונים ולפצצות מרגמה בנען, בית מלאכה ביקב הישן ברחובות, ועם התגברות הייצור ב-1938 הוקם בצפון תל אביב מפעל לייצור מרגמות, שנקרא "מפעל ב'" והוסווה כבית מלאכה לתיקון משאבות. כך פיתחה "ההגנה" מערכת של בתי מלאכה לייצור רימוני יד, רימוני רובה ופצצות, מה שהווה את תחילתו של תע"ש כמוסד מקצועי. הייצור היה חשאי ומטרתו הייתה לפתח אמצעי לחימה שיאפשרו ליחידות הארגון להתגונן ולהילחם במידת הצורך. ב-1938 מונה גם מנכ"ל, ישראל עמיר, שהוחלף ב-1940 בחיים סלבין. ב-1939 הוקמה מעבדה לפיתוח חומרי נפץ והמפעלים השונים החלו להתפתח ולהשתכלל.
פעילות התיישבותית.
כתגובה למרד הערבי, השתתף הארגון בעליית יישובי חומה ומגדל. יישובים אלו הוקמו בן לילה באזורים מבודדים, על מנת להגדיל את גבולות ההתיישבות העברית ולהרחיב את שטח המדינה העתידית. בערב העלייה על הקרקע של כל יישוב גויסו חברי "ההגנה", ביניהם נוטרים ואנשי הפו"ש, על מנת להקים במהירות את בסיסי היישובים ולהגן עליהם מפני התקפות ערביי הסביבה. אחד מהמבצעים הגדולים הייתה העלייה לחניתה במרץ 1938, שם הגנו על הקיבוץ כוחות גדולים מהפו"ש. הכוחות שנדרשו לאבטחת מבצעי התיישבות חייבו תגבור לוחמים רבים מכל רחבי הארץ, ויחד עם התפתחות הפו"ש נתנו תנופה להפיכת "ההגנה" מכוחות מקומיים לכוח כלל ארצי ומתואם.
הציונות הלוחמת וההעפלה.
החל מ-1934, עקב עליית האנטישמית באירופה, בריחת פליטים יהודים מהשלטון הנאצי וסגירת שערי הארצות בפניהם, ארגון "ההגנה" החל לשתף פעולה עם התנועות החלוציות באירופה להבאת עולים לארץ ישראל בדרך בלתי ליגאלית, וכך למעשה התחילה ההעפלה מאירופה. הספינה הראשונה שהובאה בדרך זו ב-1934 הייתה ולוס (קדמה לה כוכב, אך זו הגיעה ממצרים). בתחילה הנהגת היישוב לא שיתפה פעולה עם מפעל ההעפלה מחשש לעלייה החוקית ולשיתוף הפעולה עם הבריטים, אך עם פרסום הספר הלבן של מקדונלד ב-1939, שהגביל את העלייה ואת רכישת הקרקעות להתיישבות יהודית, החליטה ההנהגה בראשות בן-גוריון לפתוח במאבק בבריטים באמצעות ההעפלה לארץ, זאת לצד אסטרטגיה של מגננה צבאית. בן-גוריון דחף ל"עלייה לוחמת" גלויה וחמושה, אך לבסוף הוחלט לפתוח בפעילות נמרצת להבאת עולים באופן חשאי, ולשם כך שותפה "ההגנה" באותה השנה בהקמת המוסד לעלייה ב', זרוע שנועדה לארגן בצורה מרכזית את ההעפלה. אנשי "ההגנה" השתתפו בפיקוד והובלת הספינות, במנגנון ההורדה לחופי הארץ ובמתן שירותי מודיעין וקשר (יחידת הגדעונים) על מנת להוביל בבטחה את הספינות. לפני מלחמת העולם השנייה הצליח "המוסד לעלייה ב'" להביא ארצה למעלה מ-6,000 מעפילים ב-16 ספינות ואף בדרך היבשה. רק שלוש מהן לא הצליחו להוריד מעפילים לחוף.
פעילות נוער בהגנה.
"ההגנה" החלה לפעול גם בנושאי חינוך והדרכה בקרב בני הנוער. החל מ-1939 הפעיל הארגון בבתי הספר העבריים מקצוע בשם חג"ם (חינוך גופני מורחב), שתפקידו היה להכשיר את בני הנוער בנושאי שדאות ואימוני קרב-מגע. היא אף העבירה קורסי מ"כים (מפקדי כיתות) לבני נוער שנבחרו לכך, על מנת להכשירם לפיקוד בארגון. במסגרת הגדנ"ע, שהוקם ב-1941, למדו נערים מתנדבים בגילאי 15–18 אימוני סדר, ספורט וקרבות מגע, סיירות, עזרה ראשונה ושימוש בנשק קל. הם קיימו דיונים אידאולוגיים והופעלו בפעילויות חינוכיות שונות. חברי הגדנ"ע הדביקו כרוזים, עזרו בשמירות ובסיורים, בהורדת מעפילים לחופי הארץ ובעבודות שונות של הארגון.
"ההגנה" בעת מלחמת העולם השנייה.
בתחילת המלחמה 1939–1940.
פרוץ מלחמת העולם השנייה בספטמבר 1939, אירע ארבעה חודשים לאחר פרסום הספר הלבן של מקדונלד, והנהגת היישוב ו"ההגנה" החליטו להפסיק את המאבק המיליטנטי נגד הבריטים ולשתף איתם פעולה נגד גרמניה הנאצית, ועם זאת, לא להפסיק את ההעפלה וההתיישבות. את הקו קבע דוד בן-גוריון באומרו "עלינו לעזור לאנגליה במלחמתה כאילו לא היה ספר לבן, ולעמוד כנגד הספר הלבן כאילו לא הייתה מלחמה". ואכן, המוני צעירים זרמו ללשכות הגיוס: מתוך חצי מיליון אנשי היישוב התפקדו מעל 136 אלף איש, חלקם רצו להתגייס לצבא הבריטי, וחלקם רצו להתגייס להגנת היישוב. הנהגת היישוב ופיקוד ההגנה התלבטו מאוד כמה אנשים לגייס למאמץ המלחמתי וכמה להשאיר בארץ, האם הגיוס יהיה רק למען ההגנה על הארץ או לכל מקום בו ירצו בעלות הברית, ואיך להמשיך את המאבק למען ההעפלה מבלי לפגוע בכושר הלחימה של הבריטים. לבסוף הוחלט ש"כל חזית היא חזית ציונית", וכי הגיוס יהיה לכל נקודה בעולם.
בלונדון התנהל בעצלתיים משא ומתן על הקמת כוח של היישוב היהודי, אולם הבריטים נרתעו בתחילה משיתוף פעולה זה עקב חשש שהוא נועד לשרת גם את השאיפות הלאומיות של התנועה הציונית, וכמו כן רצו את שיתוף הפעולה והשקט הן של ערביי הארץ והן של מדינות ערב. הבריטים החריפו באותו זמן את מדיניות היד הקשה כלפי "ההגנה" ואנשיה, דבר שהתבטא במספר תקריות, כגון כליאת 43 משתתפי קורס מ"מ של ההגנה שהתגלו על ידי הבריטים (מ"ג אסירי ההגנה), חיפושי נשק אינטנסיביים שהסתיר הארגון ביישובים שונים, כשבבן שמן התגלה מצבור נשק גדול, וכן בפרסום חוק קרקעות בפברואר 1940, שהגביל את התיישבות היהודית. לנוכח חוק זה, דרש בן-גוריון לחדש את המאבק בבריטים. הוא הורה לפיקוד ה"הגנה" ליזום התנגשויות אלימות עם הבריטים, אולם לכך התנגדו החוגים האזרחיים במוסדות היישוב ובארגון ההגנה ותוכניתו בוטלה.
שיתוף הפעולה עם הבריטים.
עם התקרבות הסכנה לפלישה נאצית לארץ ישראל מדרום מצד כוחות "קורפוס אפריקה" של הגנרל רומל (שנעו ב-1941 בצפון אפריקה מזרחה לכיוון תעלת סואץ וארץ ישראל), הגיעו הבריטים למסקנה כי בשעת חירום זו יש לשתף פעולה עם היישוב היהודי. סכנת הפלישה והידיעות שהחלו להסתנן מאירופה על השואה, דרבנו את הנהגת היישוב לשתף פעולה עם הבריטים ביתר שאת נגד האויב המשותף - גרמניה הנאצית.
שיתוף הפעולה בין הבריטים לארגון "ההגנה" התבטא במספר אופנים:
ההעפלה בזמן המלחמה.
לצד שיתוף הפעולה עם הבריטים, המשיכה "ההגנה" במתן סיוע לפעולות ההעפלה. ספינות מעפילים המשיכו להגיע לחופי הארץ בכל שנות המלחמה, למרות סגירת שערי אירופה בתקופת המלחמה ובעיות תקציביות. שליחי ההעפלה ואנשי "ההגנה" תמרנו בעיקר במדינות הבלקן, שבתחילת המלחמה התירו יציאת יהודים משטחן, וכמו כן בהעפלה מארצות המזרח מעיראק, ממרוקו ומאלג'יר. בנובמבר 1940 הטמינה "ההגנה" פצצה באונייה "פאטריה" במטרה לגרום לה נזק קל ולהשביתה, ובכך לעכב את גירושה ואת המעפילים שעל סיפונה מהארץ, אך הנזק מהפיצוץ היה גדול מהמתוכנן, והאונייה טבעה עם למעלה מ-200 מעפילים.
"ההגנה" בשנים 1947–1945.
תנועת המרי העברי והשבת השחורה.
לקראת סיום מלחמת העולם השנייה, הייתה פעולתה של "ההגנה" נגד הבריטיים מוגבלת, וכללה הגברת ההעפלה, צבירת נשק והכשרה ואימונים צבאיים לקראת הקמת צבא עברי. הנהגת היישוב הקפידה ש"ההגנה" לא תפגע בבריטים, בגלל רצונה לשמור על אופי הארגון כגוף חוקי למחצה המקיים קשר עם שלטון המנדט, ואף הקימה לשם כך ועדה ציבורית בשם "ועדת השמונה". כל זה השתנה עקב האכזבה מהממשלה החדשה שקמה לאחר המלחמה בבריטניה בעקבות ניצחון מפלגת הלייבור, אשר נקטה, בראשות שר החוץ ארנסט בווין, בקו פרו ערבי. היא דבקה במדיניות הספר הלבן, הצהירה על הגבלת העלייה היהודית, סירבה לתביעה להעלאת ניצולי השואה ארצה ולהקמתה של מדינה יהודית, וזאת על מנת לגייס את ערביי ישראל ואת מדינות ערב לטובתה.
ההנהגה המדינית של הסוכנות הייתה מפוצלת באותו זמן בין המתונים, בראשותו של יו"ר ההסתדרות הציונית חיים ויצמן, שדחפו להמשיך את שיתוף הפעולה עם הבריטים, לבין האקטיביסטים, בראשותו של דוד בן-גוריון, שעודדו פעולת מרי נרחבות ליצירת לחץ על שלטון המנדט, על מנת "להזכיר לממשלה הבריטית שאין לפתור את בעיית ארץ ישראל מבלי לקחת בחשבון שפיתרונות אנטי ציוניים ייתקלו בהתנגדות נמרצת של העם כולו", כדברי בכיר "ההגנה" ישראל גלילי. לכך תרמו גם תחושת הכוח והביטחון ששררה ביישוב עוד בשלהי מלחמת העולם בהתחזקות היישוב היהודי, התחזקות "ההגנה" והזעם על גילויי זוועות השואה באירופה. ידם של האקטיביסטים הייתה על העליונה, ובן-גוריון החל לתכנן איחוד כוחות נגד הבריטים שנקרא בשם "המאבק הצמוד".