Klubben har per dags vunnet det bosniske seriemesterskapet seks ganger og det nasjonale cupmesterskapet seks ganger. FK Željezničar har også vunnet Super kup NS Bosne i Hercegovine tre ganger. Klubben har ved flere anledninger deltatt i kvalifiseringsspill og innledende kamper både i Mesterligaen og Europaligaen (tidligere UEFA-cupen), men har i nyere tid møtt større motstand og har ikke klart å kvalifiserte seg til videre sluttspill. Klubbens beste prestasjon i europeisk klubbfotball var da FK Željezničar spilte seg frem til semifinale under UEFA-cupen 1984/1985.