À l'époque de l'Autriche-Hongrie, il existait un ministère de la Guerre, compétent pour l'ensemble du territoire, et un ministère de la Défense nationale, qui ne concernait que la partie autrichienne de l'empire. En 1918, l'Autriche devient indépendante et instaure l'office d'État pour les Affaires militaires, qui se transforme en ministère fédéral deux ans plus tard. Il prend le nom de ministère fédéral de la Défense nationale en 1936, avant de disparaître en 1938, avec l'annexion du pays par l'Allemagne.