Die IFA wurde 1928 als Football Association of Palestine (unter Britischem Mandat) gegründet, 1929 in die FIFA aufgenommen und trat 1956 als Israel Football Association der Asian Football Confederation (AFC) bei. Viele Länder weigerten sich aber gegen Israel anzutreten. So sagten während der Qualifikation für die WM 1958 nacheinander die Türkei, Indonesien und der Sudan ab, sodass schließlich die in der Europa-Qualifikation ausgeschiedenen Waliser gegen Israel eine letzte Chance erhielten und diese nutzen konnten, wodurch einmalig alle vier britischen Mannschaften an der WM teilnahmen. 1956 und 1960 wurde Israel jeweils Zweiter der Fußball-Asienmeisterschaft. 1964 veranstaltete und gewann Israel die Asienmeisterschaft und bei der Fußball-Asienmeisterschaft 1968 im Iran konnte noch einmal der 3. Platz belegt werden.