Izrael 1954 és 1974 között az Ázsiai Labdarúgó-szövetség (AFC) tagja volt. Az arab–izraeli konfliktus következtében az arab országok sokáig nem voltak hajlandók pályára lépni az izraeli labdarúgók ellen. Az 1958-as VB-selejtezőkön valamennyi ellenfele visszalépett, így játék nélkül játszhattak interkontinentális pótselejtezőt Wales ellen. Az 1964-es Ázsia-kupát hasonló visszalépések zavarták meg, ekkor Izrael volt a házigazda. Izrael megnyerte a kupát, ez történetük eddigi egyetlen jelentősebb eredménye. 1968-ban részt vettek az olimpiai játékokon, ahol a negyeddöntőben estek ki Bulgária ellen. 1969-ben történetük első világbajnokságára jutottak ki. Az 1970-es világbajnokságon két döntetlent játszottak Svédország és Olaszország ellen, míg Uruguaytól 2–0-ra kikaptak. 1976-ban ismét részt vettek az olimpiai játékokon és újból a negyeddöntőig jutottak, ezúttal Brazíliától szenvedtek vereséget.