Az Anschluss után az intézményt a katonai múzeumok berlini vezetése alá rendelték és "Heeresmuseum Wien" lett a neve. A második világháború alatt az épületet újra bezárták a látogatók előtt, illetve 1943-tól hétvégenként volt nyitva, és elsődlegesen a goebbelsi katonai propaganda céljait szolgálta. Kiállításokat rendeztek a Wehrmacht sikeres hadjáratairól: „Sieg im Westen“ (Győzelem Nyugaton, 1940 nyara), „Griechenland und Kreta 1941 – Bild und Beute“ (Görögország és Kréta 1941 – Kép és zsákmány, 1942 tavasza) és „Kampfraum Südost“ (Délkeleti hadszíntér, 1944).