מוקדמות מונדיאל 1934 היה הטורניר הרשמי הראשון של נבחרת ארץ ישראל/פלשתינה, שהורכבה אך ורק משחקנים יהודים והפכה ברבות הימים לנבחרת ישראל בכדורגל. הנבחרת נבחרה לשחק נגד שתי נבחרות בבית 12 של המוקדמות על מנת להעפיל למונדיאל. אולם בעקבות פרישתה של שיחקה ישראל רק נגד . לקראת צמד המשחקים מונה למאמן שמעון "לומק" רוטנר, שהיה אחד מטובי הכדורגלנים בארץ ישראל בשנות ה-20 ובתחילת שנות ה-30 של המאה ה-20. הוא זימן לסגל 16 שחקנים, רובם מהפועל תל אביב, וקבע לנבחרת משחקי אימון אחדים נגד קבוצות של יחידות הצבא הבריטי שחנו באזור. לומק היה מודע לאיכותה המקצועית הגבוהה של מצרים, והורה לשחקנים לשמור היטב על החלוץ מחמוד מוכתר מקבוצת "ארסנל קהיר".
הנבחרת יצאה למסע ברכבת לכיוון קהיר, אך ללא המאמן לומק שלא הגיע לתחנת היציאה והוחלף על ידי יהושע אלוף ואריה בן גד כראשי המשלחת הארץ ישראלית. המשחק הראשון נגד מצרים נערך במגרש הצבא הבריטי המרכזי בקהיר ב-16 במרץ 1934. שחקני הנבחרת לא הצליחו להוות יריב שקול למצרים, והחלוץ מוכתר הצליח להכניע את השוער וילי ברגר בשלושת ניסיונותיו הראשונים. לקראת סיום המחצית הצליחה מצרים להבקיע שער נוסף. במהלך ההפסקה ניסו ראשי המשלחת לארגן את השחקנים בהתאם להוראות שניתנו מראש על ידי לומק, אך השחקנים לא שעו לדבריהם ותוך זמן קצר מפתיחת המחצית השנייה עלתה מצרים ליתרון 6–0. לאחר מכן הצליחה הנבחרת לצמק את התוצאה משער של אברהם "נוצ'ה" נודלמן, אך לאחר מכן הבקיעה מצרים שער נוסף. שנים רבות לאחר המשחק התראיין אברהם נודלמן לעיתון "חדשות הספורט", ועורר שערורייה כאשר אמר את הדברים הבאים:
ב-6 באפריל שלאחר מכן נערך משחק הגומלין במגרש הכדורגל ששכן ברחוב שלוש בתל אביב. לקראת המשחק ביצע לומק שינויים אחדים בהרכב הפותח של הנבחרת, בראשם הדחת הקפטן רזניק והעברת סרט הקפטן שלו לפנחס פידלר ממכבי חשמונאי ירושלים. המחצית הראשונה התנהלה בצורה דומה למחצית הראשונה של המשחק בקהיר, והסתיימה ביתרון 4–0 לטובת מצרים, שגם הפעם נהנתה מיכולת טובה של מחמוד מוכתר. עם זאת, במחצית השנייה הפגינה הנבחרת יכולת טובה בהרבה, והשוער ברגר מנע ספיגת שערים נוספים. לקראת הסיום הצליח יוחנן סוקניק להבקיע שער מצמק לטובת ישראל. כתוצאה מכך סיימה ישראל את הטורניר במקום השני מתוך 3 (טורקיה דורגה במקום האחרון כי לא שיחקה כלל), עם שני הפסדים והפרש שערים של 2–11.
במוקדמות מונדיאל 1938, האחרון בגלגולה כמייצגת את המנדט הבריטי, הוגרלה הנבחרת, בהדרכת אגון פולק, לבית מספר 6 ביחד עם . המנצחת מבין השתיים הייתה אמורה להמשיך למשחק מכריע על ההעפלה למונדיאל בצרפת, מול . פולק ביצע שינויים רבים בסגל הנבחרת לקראת שני המשחקים, והותיר מהסגל של מוקדמות 1934 רק את אברהם רזניק (הקפטן), אברהם "נוצ'ה" נודלמן ויוחנן סוקניק. בישראל שרר חוסר ידע לגבי יכולותיה של יוון, שהגיעה לאזור כשבוע לפני המשחק. המשחק הראשון נגד יוון נערך במגרשה של מכבי תל אביב ב-22 בינואר 1938, ונקבע כי הוא ינוהל על ידי השופט המצרי יוסוף ביי מחמוד, מטובי שופטי הכדורגל המצרים בכל הזמנים ומי שהמליץ לפיפ"א לקבל את ארץ ישראל כחברה בארגון. עוד לפני המשחק התחוללה שערורייה במחנה הנבחרת הארצישראלית, לאחר שפולק החליט להעלות בהרכב את השוער יוליוס קליין מהפועל חיפה במקום וילי ברגר, מי שנחשב עד היום לגדול השוערים בתקופה שקדמה להקמת המדינה. יוון פתחה את המשחק עם לחץ חזק על השער של קליין, ותוך 10 דקות משריקת הפתיחה הצליחה לעלות ליתרון 0–2. כעבור עשר דקות הצליחה ישראל להתאושש, לאחר שפרי נויפלד ממכבי תל אביב הצליח לעבור ארבעה שחקני הגנה יווניים ולהכניע את השוער פפדופולוס. המחצית השנייה הייתה מאוזנת מבחינת היכולות של שתי הנבחרות, אך הייתה זו יוון שהבקיעה שער בדקה ה-51, שקבע את תוצאת המשחק על 1–3 לטובת יוון.
לאחר המשחק נערכה ישיבה מיוחדת של הנהלת ההתאחדות לכדורגל, בה נקבע כי השחקנים יתאמנו באופן אינטנסיבי על מנת לשפר את כושרם הגופני, שהיה לקוי לדעת חברי ההנהלה. המאמן פולק כלל לא הצטרף למסע הנבחרת ליוון, רשם על פתק את 11 השחקנים הפותחים, ונתן אותו ליושב ראש ההתאחדות יצחק חלוץ, ששימש כראש המשלחת. לפני המשחק ערכה הנבחרת שני אימונים במגרשה של פנאתינאיקוס, שהיה במצב תחזוקתי לא טוב בגלל מזג האוויר הגשום. קליין הודח מההרכב הראשון לטובת ישראל אלסנר. שינויים בולטים נוספים בהרכב הייתה מתן ההזדמנות הראשונה לנתן פנץ, והעלאתם להרכב הפותח בצוותא של האחים אברהם בית הלוי וג'רי בית הלוי. ישראל שיחקה היטב במשחק הגומלין, אך בדקה ה-90 נפסקה לחובתה בעיטת חופשית מ-16 מטרים, שבוצעה בהצלחה על ידי קלינתיס ויקלידס, ומיד לאחר מכן שרק השופט היוגוסלבי מיקה פופוביץ' לסיום המשחק. במשחק מול הונגריה, שהעפילה עד גמר המונדיאל, הובסה יוון בתוצאה 1–11. היה זה ההפסד הגבוה ביותר בהיסטוריה של הנבחרת היוונית.
משחקים אלה היו היחידים של נבחרת ארץ ישראל בשנות ה-30 של המאה ה-20. משחקה האחרון של נבחרת ארץ ישראל היה משחק ידידות מול באצטדיון המכביה ב-27 באפריל 1940. לבנון נחשבה לאחת הנבחרות החלשות ביותר בעולם באותה תקופה, וכשתוצאת המשחק עמדה על 5–1 לזכות ישראל במחצית השנייה, ביקש מנהל הנבחרת הלבנונית מארתור באר, מרכיב הסגל של הנבחרת, כי ישראל לא תשפיל את נבחרתו.
שנות ה-40 וה-50.
משחקים ראשונים.
הנבחרת החלה לייצג את מדינת ישראל העצמאית תוך זמן קצר מהקמת המדינה בה' באייר ה'תש"ח. בקרב הנהגת המדינה הועלה הרעיון לשלוח את הנבחרת למסע משחקים בארצות הברית על מנת לשפר את המורל הלאומי. לאחר משא ומתן מול האמריקנים הוסכם כי הנבחרת תערוך שני משחקי ידידות בניו יורק ומשחק אחד בפילדלפיה. ב-26 בספטמבר 1948 ערכה ישראל את משחקה הבינלאומי הראשון כנבחרת של מדינה עצמאית, והפסידה לנבחרת ארצות הברית בתוצאה 1–3. השער הראשון לאחר הקמת המדינה הובקע בדקה ה-20 של המשחק, כאשר אליעזר שפיגל ממכבי פתח תקווה מסר את הכדור לשמואל בן דרור, עמיתו לקבוצה וקפטן הנבחרת, שהכניע את השוער האמריקני. המשחק השני בניו יורק, מול נבחרת כוכבים אמריקאית, הסתיים בהפסד 1–4, והמשחק בפילדלפיה הסתיים בהפסד 2–3 לקבוצת כדורגלנים מקצוענים. מסע משחקים זה ידוע גם בעקבות היעדרותו של יעקב חודורוב, השוער הטוב ביותר בארץ באותה תקופה, שעזב את יחידתו בצה"ל ועבר ליחידה אחרת ללא רשות, ועל כך נשפט וזוכה בסופו של דבר.
נבחרת ישראל, שייצגה בפעם הראשונה בטורניר רשמי את מדינת ישראל העצמאית, הודרכה על ידי לאיוש הס והוגרלה לבית מספר 3 במוקדמות מונדיאל 1950, בו נמצאה רק נבחרת אחת נוספת, . המנצחת בשני המשחקים הייתה אמורה להעפיל לצמד משחקים מול , שהמנצחת בסיומם תעפיל למונדיאל 1950 שנערך בברזיל. הס פרסם את סגל השחקנים ב-13 באוגוסט, וכלל בו 18 שחקנים כיוון שנאלץ לתת ייצוג שווה לכל אחד ממרכזי הספורט הגדולים שפעלו במדינה באותה תקופה. המשחק הראשון נערך בבלגרד ב-21 באוגוסט 1949, והסתיים בניצחון 6–0 לטובת היוגוסלבים. חרף התבוסה הייתה הדעה הרווחת בקרב עיתונאות הספורט בישראל כי השוער יעקב חודורוב הצטיין והציל את הנבחרת מהפסד גדול יותר. המשחק השני, שנערך בתל אביב, הסתיים בניצחון 5–2 לטובת יוגוסלביה. שייע גלזר הבקיע את שני השערים, והיה לשחקן הראשון בתולדות הנבחרת שמבקיע בה שער במשחק רשמי לאחר הקמת המדינה. יוגוסלביה סיימה את שני המשחקים מול צרפת בתיקו 1–1, ובמשחק המכריע שנערך במגרש הנייטרלי בפירנצה ניצחה 3–2 והעפילה למונדיאל.
בדצמבר 1950 הפסידה ישראל לטורקיה בתוצאה 2–3, ובשלוש השנים הבאות לא ערכה ולו משחק רשמי אחד. לאחר ההפסד הודיע המאמן ולדיסלב סקאלי על עזיבתו. בינואר 1952 התקבלה ישראל כחברת הוועד האולימפי הבינלאומי, אך בעקבות עיתוי האישור לא יכלה הנבחרת להשתתף בסיבוב המוקדמות לקראת אולימפיאדת הלסינקי.
לקראת מוקדמות מונדיאל 1954 מונה ג'רי בית הלוי, מאמן מכבי תל אביב, לתפקיד המאמן. ישראל הוגרלה לבית מספר 10 ביחד עם יוגוסלביה ויוון, כשמנצחת הבית תעפיל למשחקי המונדיאל שהיה עתיד להיערך בשווייץ. ישראל השתמשה בטורניר הכדורגל של המכביה ה-4 כטורניר הכנה, והפעם הייתה ציפייה לנצח את יוון כיוון שזמן קצר לפני המשחק מולה הובסה נבחרת אתונה על ידי נבחרת תל אביב בתוצאה 0–5. בדומה לטורנירי המוקדמות הקודמים הפסידה ישראל בכל משחקיה, והפעם לא הצליחה להבקיע ולו שער אחד, אך מנגד לא הפסידה בהפרשי שערים גבוהים. הסיבה העיקרית לתוצאות הנמוכות הייתה החלטתו של המאמן בית הלוי לנקוט במערך משחק הגנתי ככל האפשר, הידוע כ"בונקר". שיטת המשחק שבה נקט בית הלוי הייתה שנויה במחלוקת בקרב אוהדי הכדורגל בישראל, ואף גרמה לחוסר שביעות רצון בהתאחדות לכדורגל.