O vicariato militar para o Império Austro-Húngaro foi erigido em 22 de dezembro de 1773, e foi preservado, mesmo no outono de 1918, mas foi fechado após o "Anschluss", e restaurado em 21 de fevereiro de 1959. Em 21 de julho de 1986, foi elevado a Ordinariato Militar através da bula papal "Spirituali militum curae" do Papa João Paulo II.