במהלך טקס הפתיחה של המונדיאל לקה מרדכי שפיגלר בקלקול קיבה, אך הודות למאמצי אנשי הרפואה של הנבחרת הצליח להתאושש ולהחלים בזמן למשחק הראשון. ב-2 ביוני פתחה ישראל את משחקיה בטורניר מול , שסיימה לבסוף במקום הרביעי במונדיאל, והפסידה בתוצאה 0–2. ב-6 ביוני התמודדה ישראל במשחק מול שוודיה, שהפך לציון דרך בתולדות הכדורגל בישראל. בדקה ה-56, שלוש דקות לאחר שער היתרון לטובת שוודיה, כדרר גיורא שפיגל באגף ימין ומסר את הכדור למרדכי שפיגלר שכבש בבעיטה בחצי גובה מ-20 מטרים. היה זה השער הראשון והיחיד של ישראל במונדיאל. המשחק הסתיים בתיקו 1–1. במשחק השלישי והאחרון התמודדה ישראל מול אלופת אירופה איטליה ובזכות יכולת גבוהה בהגנה הצליחה לסיים בתיקו 0–0 ולזכות בנקודה נוספת. איטליה המשיכה עד לגמר הטורניר ונוצחה בו על ידי ברזיל. ישראל סיימה את שלב הבתים במקום הרביעי והאחרון בבית עם 2 נקודות, אך בהתחשב ביריבותיה החזקות נחשב הדבר להישג מכובד. בזכות החשיפה הרבה שקיבלו שחקני הנבחרת במונדיאל עברו חלק מהם לשחק בקבוצות באירופה. רווחיה של הנבחרת כתוצאה מההשתתפות במונדיאל היו 700,000 לירות. תשעה חודשים לאחר המונדיאל הדריך שפר את הנבחרת בפעם האחרונה, במשחק בו ניצחה ישראל את שוודיה בתוצאה 2–1.
שפר הוחלף על ידי אדמונד שמילוביץ'. משחקו הראשון של שמילוביץ' כמאמן הנבחרת היה מול אוסטריה באצטדיון רמת גן, בו הצליחה ישראל לסיים בתיקו 1–1. כהכנה לקראת מוקדמות אולימפיאדת מינכן (1972) הוחלט לשלוח את הנבחרת למסע משחקים באוסטרליה, אותו סיימה ישראל במאזן של ניצחון, תיקו והפסד מול הנבחרת המקומית. לאחר מסע המשחקים קיימה ישראל משחק ידידות ברמת גן מול , וניצחה אותה 2–1. התוצאות הללו העלו את הציפיות לקראת טורניר המוקדמות, שנערך ברנגון שבבורמה בשבוע שבין 24 במרץ ל-1 באפריל 1972. ישראל פתחה את הטורניר ביכולת גבוהה, וזכתה בניצחונות על ציילון, הודו ו. ישראל העפילה לחצי גמר טורניר המוקדמות, והפסידה בו בדו-קרב פנדלים ל לאחר משחק אלים מאוד. כישלון ההעפלה התגמד לעומת טבח הספורטאים באולימפיאדת מינכן, בו נרצחו 11 ספורטאים, מאמנים ושופטים מהמשלחת הישראלית לאולימפיאדה על ידי טרוריסטים פלסטינים מארגון ספטמבר השחור.
לאורך כל הטורניר סבלה הנבחרת מאווירה אנטי-ישראלית קשה, שבאה לידי ביטוי בין היתר בשיפוט עוין במשחק מול אינדונזיה. השחקנים דרשו מהנהלת הנבחרת לקצר את השהות בבורמה ולחזור לישראל בהקדם האפשרי, כיוון שחששו מהמשך השהייה במקום. הנהלת ההתאחדות לכדורגל נועדה עם ראשי פיפ"א, ודיונים אלה היו ההתחלה של הליך עזיבת ישראל את קונפדרציית הכדורגל של אסיה והצטרפותה לאופ"א, קונפדרציית הכדורגל של אירופה.
במוקדמות מונדיאל 1974 שובצה ישראל לאזור A של מוקדמות אזור אסיה, בו נכללו 7 נבחרות שערכו את כל המשחקים בקוריאה הדרומית. ב-16 במאי 1973 התמודדה ישראל מול במשחק דירוג על מנת לקבוע את שיבוצה לבית המוקדמות, וניצחה בו 2–1, על אף שלא הפגינה רמת משחק גבוהה. תוך התבססות על ניצחונה ועל תוצאותיהן של שאר הנבחרות שובצה ישראל לבית ב' ביחד עם קוריאה הדרומית, ו. משחקי הבית נערכו בין 19 במאי ל-23 במאי 1973. ישראל ניצחה את מלזיה 3–0 ואת תאילנד 6–0, ובמשחק האחרון סיימה בתיקו 0–0 מול קוריאה הדרומית. ישראל העפילה לחצי גמר טורניר המוקדמות, שנערך ב-26 במאי, וגברה בו על יפן בתוצאה 1–0 משער בדקה ה-110 של משה אוננה. בעקבות תדירות המשחקים הגבוהה סבלו שחקני הנבחרת מתשישות רבה, ולפני המשחק המכריע נזקקו רבים מתוכם למגוון טיפולים רפואיים. ב-28 במאי התמודדה ישראל במשחק גמר המוקדמות האזורי מול קוריאה הדרומית, שהסתיים גם כן בתיקו 0–0. בדקה ה-109 של המשחק הבקיע הכוכב הקוריאני צ'ה בום-קון את השער היחיד במשחק. קוריאה הדרומית העפילה לגמר המוקדמות הכללי של אסיה, והפסידה בו לאוסטרליה בתוצאה 0–1. היה זה משחקו האחרון של שמילוביץ' כמאמן הנבחרת. הוא החליט להתפטר בגלל הכישלון והוחלף על ידי דוד שווייצר.
הסילוק מאסיה.
לאחר הכישלון להעפיל למונדיאל נסעה הנבחרת למשחקי אסיה של 1974 בטהראן כחלק ממשלחת ישראלית שמנתה למעלה מ-60 ספורטאים. המשלחת בכלל, והנבחרת בפרט, נתקלו באווירה עוינת באופן קיצוני ובשיבושים טכניים רבים שגרמו המארחים האיראנים ושאר המדינות האסייתיות. למרות כל הבעיות ישראל היטיבה לשחק בחלקו הראשון של טורניר הכדורגל. היא פתחה עם ניצחון 8–3 על מלזיה, ובשלושת המשחקים הבאים ניצחה 6–0 את הפיליפינים ו-3–0 את יפן ואת בורמה. עם זאת, במשחק הגמר מול המארחת איראן הפגינה ישראל יכולת לא טובה, והפסידה 0–1 משער של עבדול חאני בדקה ה-30. במהלך המשחק ספגה הנבחרת גידופים רבים מהקהל האיראני העוין, והמאמן שווייצר אמר בסיום המשחק "הפסדנו במשחק, הרווחנו את חיינו...". לאחר המשחקים החליט קונגרס הפדרציה האסיאתית לסלק את ישראל ממשחקי אסיה הבאים, ולא לאפשר לה לארח אותם. בעקבות כך אמר מנחם הלר, יושב ראש ההתאחדות לכדורגל, כי:
החלטה זו הייתה טעונה אישור רשמי.
למרות ההחלטה העקרונית על סילוקה של ישראל מטורנירי ספורט אסיאתיים, הוגרלה הנבחרת לסדרת משחקי בית-חוץ מול ו, שקבעו מי תעפיל לטורניר הכדורגל של אולימפיאדת מונטריאול ב-1976. נקבע כי שני משחקי החוץ ייערכו בסיאול, בירת קוריאה הדרומית, ולאחר מכן ייערכו שני משחקי גומלין ברמת גן. ישראל פתחה את טורניר המוקדמות ב-31 במרץ עם ניצחון 3–0 על יפן, וכעבור ארבעה ימים גברה 3–1 על קוריאה הדרומית. משחקי הגומלין החלו כעבור שבוע. ישראל הביסה את יפן 4–1, במשחק שנודע בכך שכל שערי הנבחרת הובקעו בעקבות עבירות יפניות על השחקן גידי דמתי. ניצחון זה קבע כי ישראל תעפיל לאולימפיאדה בפעם השנייה בתולדותיה, בלא קשר לתוצאות המשחק האחרון מול קוריאה הדרומית. המשחק האחרון מול הקוריאנים נדחה פעמים אחדות לאור רצונם של הקוריאנים לפרוש מהטורניר. בסופו של דבר נערך המשחק ב-28 באפריל, והסתיים בתיקו 0–0. יום אחד לפני המשחק מול הקוריאנים התקבלה בקואלה לומפור ההחלטה הרשמית על סילוקה של ישראל ממשחקי אסיה, למרות איום של הוועד האולימפי הבינלאומי להסיר את חסותו מהמשחקים.
האולימפיאדה האחרונה.
גם באולימפיאדה במונטריאול שבקנדה הצליחה ישראל להגיע להישג משמעותי. בשלב הבתים הוגרלה ישראל לבית ב' ביחד עם , ו. ישראל פתחה עם תיקו 0–0 מול גואטמלה, והמשיכה עם תיקו 2–2 מול מקסיקו. המשחק נגד מקסיקו היה רווי אלימות, ובמהלכו נשלפו לחובת ישראל שני כרטיסים אדומים. במשחק השלישי והמכריע על ההעפלה התמודדה ישראל מול נבחרתה העדיפה של צרפת, בשורותיה הופיע הכוכב הידוע מישל פלאטיני. ויקי פרץ העלה את הנבחרת ליתרון בדקה ה-75, וכעבור חמש דקות הצליח פלאטיני להשוות באמצעות בעיטת עונשין מ-11 מטרים. בעקבות תוצאה זו העפילה ישראל מהמקום השני למשחק רבע הגמר מול ברזיל, שסיימה במקום הראשון בבית א'. ברבע הגמר הובסה ישראל 1–4, והודחה פעם נוספת בשלב זה. הייתה זו הפעם האחרונה שבה השתתפה הנבחרת באולימפיאדה.
22 נבחרות מאסיה ומאוקיאניה התמודדו על כרטיס אחד בטורניר מוקדמות מונדיאל 1978, וחולקו לבית של 6 קבוצות, 3 בתים של ארבע קבוצות, ובית אחד בן 3 קבוצות. ישראל שובצה לבית 2, ממנו הייתה אמורה לעלות נבחרת אחת, ביחד עם יפן, קוריאה הדרומית, וקוריאה הצפונית שפרשה מהתחרות. בטורניר זה נערכו המשחקים בשיטת בית וחוץ, בין 27 בפברואר ל-3 באפריל 1977. לקראת הטורניר החליט המאמן דוד שווייצר לזמן מחדש שחקנים ותיקים שלא שיחקו במדי הנבחרת במשך שנים אחדות, כגון מרדכי שפיגלר (לימים מלך השערים של הנבחרת בכל הזמנים), מוצי לאון ושייע פייגנבוים. ישראל פתחה את משחקי הבית בתיקו 0–0 מול קוריאה הדרומית בתל אביב, לאחר שבמהלך רוב המשחק תקפה את השער הדרום קוריאני ללא הועיל. לאחר מכן היו אמורים להיערך שני משחקים מול יפן, אך זו טענה כי כתוצאה מסיבות ביטחוניות היא לא יכולה לארח את ישראל בטוקיו. לאחר שורת דיונים בפיפ"א הוחלט כי שני המשחקים ייערכו באצטדיון רמת גן, כך שבפועל ויתרה יפן על יתרון הביתיות שלה. ב-6 במרץ ניצחה ישראל את יפן בתוצאה 2–0, ובמשחק ה"גומלין", שנערך כעבור ארבעה ימים, ניצחה גם כן 2–0.
לקראת המשחק המכריע מול קוריאה הדרומית ב-20 במרץ התמקד שווייצר ביצירת תוכניות לניטרולו של החלוץ הדרום קוריאני צ'ה בום-קון, שהיה זכור לאוהדי הכדורגל בישראל כמי שהדיח את הנבחרת במוקדמות מונדיאל 1974 בהארכה. למרות ההכנות וההתמקדות בצ'ה לא שיחקה ישראל טוב בתחילת המשחק, והוא הצליח להבקיע בדקה ה-22. לקראת סוף המשחק הצליחה ישראל להשוות מרגליו של אורי מלמיליאן, אך תוך זמן קצר ספגה 2 שערים והפסידה 1–3. הניצחון של קוריאה הדרומית על יפן קבע כי גם הפעם לא תעפיל ישראל למונדיאל. קוריאה הדרומית המשיכה עד לבית הגמר הכללי של אסיה ואוקיאניה. היא דורגה במקום השני בבית מתחת ל, שהעפילה למונדיאל לראשונה בתולדותיה.