Klubben er en av de mest dekorerte klubbene fra Bosnia-Hercegovina og en av de mest kjente fra Det tidligere Jugoslavia. Zeljeznicar har en lang historisk rivalisering med FK Sarajevo, som er byrivalene og som også anses som et av de beste lagene fra Bosnia-Hercegovina og Det tidligere Jugoslavia. Sarajevo-derbyet skaper mye liv og røre i byen, og pyroteknikk samt andre effekter blir brukt av begge lags supportere. Zeljeznicars hovedsupportere-gruppering kaller seg «The maniacs 1987» og anses som en av de beste supportergruppene fra Bosnia-Hercegovina.