Osijek ble grunnlagt som en jugoslavisk fotballklubb under navnet i 1947, etter en sammenslåing av klubbene Slavonija og Bratsvo. I starten hadde klubben moderat suksess i Jugoslavia, og i forbindelse med flytting til dagens stadion, skiftet klubben navn til , og til fem år senere. Osijek rykket opp til jugoslavisk eliteserie i 1953 etter å vunnet den kroatisk-slovenske ligaen, men de rykket ned etter tre sesonger i toppen og måtte spille i 2. divisjon frem til 1977.