בתקופה זו נחשבת לראשונה האנייה ולוס, שהביאה מעפילים מאירופה, אף כי קדמה לה אוניית המעפילים כוכב, שהגיעה ממצרים כחלק מעליית אף על פי. ולוס אורגנה על ידי תנועת הקיבוץ המאוחד, בשיתוף עם אנשי "ההגנה", בתמיכתם של אליהו גולומב וברל כצנלסון וכן בשיתוף ובמימון תנועת החלוץ. שליחים שיצאו לאירופה ארגנו קבוצה של 350 צעירים מפולין ושכרו את הספינה בפיראוס (יוון). ביולי 1934 הפליגה "ולוס" לחופי הארץ ומעפיליה הורדו בחשאי על ידי אנשי "ההגנה" בחופי כפר ויתקין ותל אביב. הפלגתה השנייה של האנייה לא הייתה מוצלחת כמו זו הראשונה: הבריטים חיזקו את הפיקוח ולא איפשרו לאונייה להתקרב לחוף. מספר שבועות סובבה הספינה לאורך החוף, הפליגה לאיי יוון ולאיי טריפולי וחזרה פעמיים לחופי הארץ, אך ללא הועיל. כשסבה האונייה על עקבותיה, התברר שאף מדינה לא אפשרה לנוסעיה לרדת, עד שלבסוף התירה פולין את כניסתה אל תחומה עקב היות נוסעיה אזרחי פולין. לאחר מספר חודשים עלו המעפילים לארץ ישראל, לאחר שהסוכנות היהודית העניקה להם סרטיפיקטים מהמכסות שהיו בידיה.
בעקבות פרסום מאמרו של זאב ז'בוטינסקי "על האוונטוריזם" (ב-26 בפברואר 1932), בו קרא לא להישמע לחוקי המנדט ולמהר לעלות לארץ גם ללא אישור הבריטים, החלו חברי בית"ר והתנועה הרוויזיוניסטית לתכנן עלייה בלתי לגאלית. באביב 1934 שיגרו ספינה מפיראוס בשם "קאפולו", אלא שזו לא הצליחה להוריד את נוסעיה וחזרה ליוון. פעילי בית"ר הצליחו לארגן לאחר מספר חודשים אונייה חליפית בשם "אוניון" ועל סיפונה 117 נוסעים. הספינה הגיעה לחוף תל אביב באוגוסט. מאה מהמעפילים הצליחו לרדת בבטחה אל החוף, אך 17 האחרונים שסירתם נפגעה, נתפסו יחד עם אנשי הצוות על ידי ספינת משמר בריטית וגורשו מהארץ.
הצלחתן החלקית של שתי הספינות "ולוס" ו"אוניון" וכן ההסתייגות שגילו דוד בן-גוריון וראשי הנהגת היישוב וההסתדרות הציונית להעפלה מתוך חשש לגורל העלייה החוקית, גרמו לכך שפעילות ההעפלה הוקפאה למשך שלוש שנים, עד לשנת 1937.
עלייה מקרב נוער "החלוץ".
היוזמה לחידוש העפלה באה בשנת 1937 מצד תנועת "החלוץ" בפולין, שם חיכו אלפי בני נוער בחוות הכשרה ציוניות לעלייה לארץ. ציפייתם לעלייה הגבירה את הלחץ על התנועות החלוציות. תנועת "הקיבוץ המאוחד" הוציאה מספר שליחים לאירופה, ללא אישור הנהגת היישוב, כדי לארגן עלייה בלתי לגאלית של מספר קבוצות מתוך אותם צעירים. ההפלגה הראשונה, אותה ארגן זאב שינד יחד עם אנשי "החלוץ" ובמימונם הייתה בספינה קטנה בשם '"פוסידון"', שיצאה מלאווריון ביוון בינואר 1938 כשעל סיפונה 65 מעפילים. היא הגיעה לחוף מושב אביחיל, ובעזרת אנשי "ההגנה" הורדו תוך זמן קצר כל המעפילים ופוזרו ביישובי הסביבה. בעקבותיה באו עד סוף אותה שנה מספר אוניות נוספות, הן מקרב החלוץ והן מקרב ארגונים אחרים. לא כולן הצליחו לחדור לחופי הארץ. זאת הייתה ההתארגנות הראשונית של ההעפלה מצד "ההגנה" ותנועת העבודה, שהיוותה שלב מקדים ל"מוסד לעלייה ב'".
עליית אף על פי.
בשנת 1936 ביקר צעיר ארצישראלי בשם משה גלילי (קריבושיין) בצרפת במחנה של פליטים יהודים שברחו מגרמניה. הביקור עשה עליו רושם קשה, והוא הושפע גם מהאנטישמיות באירופה ומקריאתו של זאב ז'בוטינסקי ל"אווקואציה" (הצלת יהודי אירופה והעלאתם לארץ ישראל כל עוד הדבר אפשרי), והחליט למצוא דרכים כדי להעלות יהודים במהירות. גלילי יצר קשר עם ההנהגה הרוויזיוניסטית באוסטריה והחל לארגן שם את העלייה מבחינה לוגיסטית ולגייס כספים. הפליטים המיועדים לעלייה הגיעו בכוחות עצמם לפיראוס, ומשם הפליגו באוניות מושכרות קטנות ודלות אל חופי הארץ. האוניה הראשונה הביאה לארץ ישראל 54 צעירים בשנת 1937 ובעקבות הצלחה זו, ארגן גלילי עוד שלוש ספינות. צעירים מפולין, ליטא ולטביה רוכזו במחנה שהוקם באזור וינה, ומשם דרך אלבניה עלו על הספינות בתור טיול של סטודנטים. הספינות הגיעו לארץ ישראל בשלום, למרות ניסיונות הבריטים לתפסן. באנייה האחרונה, ביוני 1938, הגיעו 381 צעירי בית"ר מווינה, בה כבר לא היה אפשר לקיים את המחנה בשל השלטון הנאצי. לכל הספינות שהביא קרא גלילי "אף על פי", ושם זה אומץ למפעל ההעפלה של התנועה הרוויזיוניסטית.
בשלב זה נתגלעו חילוקי דעות בין גלילי לבין הפעילים בווינה, והוא פרש מכל פעילות. כך החלה ההעפלה המאורגנת של התנועה הרוויזיוניסטית, כאשר הטיפול בעליית "אף על פי" עבר לשלושה מוסדות עיקריים: הצ"ח, הנהגת בית"ר ומפקדת האצ"ל. מרכז התנועה ישב בפריז ובראשה הועמד יוסף כצנלסון. האונייה הראשונה בארגונם הייתה "דארגה", שהפליגה מאיטליה למרות הקשיים בהשגת אשרות שהייה, והצליחה להביא באוקטובר 1938 170 מעפילים לחופי הארץ. אונייה זו ציינה את המעבר מיוזמה פרטית לפועלם של כלל הגופים הרוויזיוניסטים. עד סוף 1941 הצליחה עליית "אף על פי" להביא לחופי הארץ יותר מ-32 אוניות עם מעל ל-17,300 עולים, והיוותה את גורם ההעפלה העיקרי בשנים אלו. אולם, התנועה לא הצליחה לגייס את ההון הנדרש לניהול העפלה, והמרכז בפריז התקשה להתמודד עם המגמה של המארגנים המקומיים, שלחצו להיות עצמאיים. פרוץ מלחמת העולם השנייה הביאה להאטה משמעותית בהבאת הספינות, ולאחר המלחמה לא עסקה כמעט התנועה בהבאת מעפילים.
התנגדות המוסדות לעליה הבלתי לגאלית.
חלק מהגופים הקשורים להנהגת היישוב, כמו תנועת "הקיבוץ המאוחד", "החלוץ" בפולין ו"ההגנה", שיתפו פעולה מאז 1937 בהבאת מספר אוניות מעפילים, ואף זכו לתמיכה מצד מנהיגים מתנועת העבודה, בהם גולומב, ברל וטבנקין. למרות זאת, ההנהגה הציונית בראשות דוד בן-גוריון התנגדה באותה תקופה למפעל ההעפלה, מתוך חשש שפעילות זו תסכן את העלייה החוקית ואת המשא ומתן עם הבריטים על הקמת מדינה יהודית. בנוסף, היה חשש שעיסוק בפעילות בלתי לגאלית יגרום לצורך ליצור מערכת קשרים עם מבריחים, זייפנים ופושעים אחרים ויש חשש להסתבכות כתוצאה מקשרים אלו. הרתיע גם המחיר הגבוה של העלאת עולה בלתי לגאלי, שהיה בערך פי 5 מאשר רכישת כרטיס הפלגה במחלקה שלישית לעולה עם סרטיפיקט.
שיקול נוסף של המתנגדים היה שאין אפשרות להביא בחשאי מספר רב של מעפילים, ואם הפעילות אינה חשאית היא יכולה לגרום נזק.
הקמת המוסד לעלייה ב'.
דעתם של המתנגדים להעפלה השתנתה בסוף 1938, בעקבות שני מאורעות היסטוריים: האחד הוא פוגרום ליל הבדולח שהתרחש בגרמניה, והשני היה מסקנות ועידת וודהד שאמרו ש"אין אפשרות מעשית סבירה לחלוקה של ארץ ישראל למדינה ערבית ומדינה יהודית שתאפשר הקמתן תחת התנאים שהוגדרו" והמליצו לסגת מתוכנית החלוקה עליה המליצה ועדת פיל. רצונה של בריטניה לפייס את הערבים בעקבות המרד הערבי, התבטא בהתנגדות הבריטים להצעת ועדת פיל להקמת מדינה יהודית וצמצום העלייה כמעט לגמרי (היתר ל-75 אלף עולים בחמש שנים). הספר הלבן שפורסם ב-1939 ביטא רעיונות אלה בפומבי. מצבם של יהודי אירופה היה קשה ושערי ארץ ישראל, וארצות העולם כולו, נסגרו בפניהם.
משהבחין בן-גוריון בשינוי הצפוי במדיניותה של בריטניה, הגיע למסקנה שגם היישוב צריך לשנות מדיניות ולכונן את ה"ציונות הלוחמת", שההעפלה הייתה כלי חשוב להגשמתה. הוא הציע לפתוח בעלייה ג' – לא עוד מבצעי העפלה בודדים אלא "מרד עלייה" והעלאה של אלפי צעירים בפעולות גדולות, אפילו תוך כדי התנגשות עם הבריטים. חבריו להנהגה וכן פעילי ההעפלה לא נטו לאמץ את תוכניתו, בטענה שיש להעדיף הצלת יהודים בהעפלה חשאית על פני התנגדות גדולה וחמושה כנגד הבריטים. הנהגת היישוב לקחה מעתה את ההעפלה תחת חסותה, וביולי 1939 הוקם "המוסד לעלייה ב'", כזרוע של ארגון "ההגנה". בראשו הועמד שאול אביגור (אז-שאול מאירוב), מראשי ההגנה, שעסק בהעפלה המאורגנת מתחילתה.
המוסד לעלייה ב' הוכפף מעתה למחלקה המדינית של הסוכנות היהודית. מראשית שנת 1939 ועד לפרוץ מלחמת העולם השנייה הביא המוסד לחופי הארץ כ-16 ספינות, רק שלוש מהן לא הצליחו להוריד מעפילים. מול התביעות להגביר את קצב השיגור עמד מחסור בכספים, דבר שהקשה על חכירת ספינות. המוסד לעלייה ב' הפך לגוף המרכזי שהנהיג את ההעפלה בעזרת שלוחותיו, לרבות בארצות הברית, בעזרת מוסדות וארגונים נוספים:
בשנים 1934–1939 הגיעו לחופי הארץ 21 אלף עולים ב-50 אוניות. כ-12,000 הועלו באמצעות התנועה הרוויזיוניסטית, כ-6,000 - על ידי "ההגנה", "החלוץ" והקיבוץ המאוחד וכ-3,000 - על ידי גורמים פרטיים שונים, שפעלו רובם ממניעים כספיים.
ההעפלה בזמן מלחמת העולם השנייה.
עם פרוץ מלחמת העולם השנייה הפכה ההעפלה למבצע הצלה של יהודי אירופה. בתחילת המלחמה (בשנת 1939) הגיעו 23 ספינות עם כ-14 אלף מעפילים, אך בשנה שלאחריה צומצמה מאוד הפעילות, עקב הקשיים הרבים בשיגור אוניות בזמן מלחמה. כמעט לא היה אפשרי להוציא שליחים לאירופה הנאצית ומי שיצא הסתכן כנתין אויב. הוטל פיקוח הדוק על אוניות כיוון שהיה צורך להשתמש בהן לצורכי מלחמה, ואף ההפלגה בים הייתה מסוכנת עקב ציד צוללות ומוקשים. גם שיתוף הפעולה של המוסדות הציוניים עם בריטניה באותה תקופה, פעל כנגד ביצוע פעילות בלתי לגאלית. הנהגת היישוב הייתה נתונה בדילמה קשה בשנות המלחמה, כשלא רצתה ליצור עימות עם הבריטים מתוך חשש שהדבר יקשה על המאמץ המלחמתי שלהם בנאצים, אך גם התנגדה לעצור את ההעפלה בתקופה הקשה ביותר ליהדות אירופה. על אף כל הקשיים, אוניות מעפילים המשיכו להגיע לחופי הארץ בכל שנות המלחמה, אם כי באופן מצומצם.