Fotballklubben ble stiftet i 1906 under navnet . Klubben ble omdøpt til Olympia i januar 1918, og i 1926 under press fra det nye italienske fascistiske regimet, og i 1946, under den jugoslaviske militæradministrasjonen av byen, ble den omdøpt til . Klubben skiftet navn til i 1954 og tok tre år senere steget opp i den jugoslaviske høyeste ligaen. Rijeka rykket opp til jugoslavisk 1. divisjon i 1957, men de rykket ned og måtte spille i 2. divisjon i sesongen 1969/70. I sesongen 1974/75 var klubben tilbake i 1. divisjon og de holdt seg der til Jugoslavia gikk i oppløsning.