Fue uno de los equipos más exitosos de Europa durante gran parte del siglo XX. Se formó tras la creación del Reino de los Serbios, Croatas y Eslovenos (que en 1929 se denominaría oficialmente Reino de Yugoslavia). Su debut tuvo lugar en los Juegos Olímpicos de Amberes 1920, donde fueron derrotados 7-0 por la selección de fútbol de Checoslovaquia. El mismo marcador se repitió en dos encuentros siguientes con Uruguay en los Juegos Olímpicos de París 1924 y con Checoslovaquia en 1925. Yugoslavia fue uno de los cuatro primeros países europeos en participar en una Copa Mundial de Fútbol; llegó a la semifinal del primer torneo (1930), y dicho logro sería repetido en 1962. A nivel continental, obtuvo el segundo lugar en dos Eurocopas (1960 y 1968). La selección yugoslava también alcanzó la medalla de plata en los Juegos Olímpicos de Londres 1948 —una selección amateur obtuvo el oro en 1960, pero no se considera oficial—.