Музей знаходзіцца ў межах венскага Арсенала ў раёне Ландштрасэ, недалёка ад палацавага комплексу Бельведэр. Ён быў пабудаваны паміж 1850 і 1856 гадамі па загаду імператара Франца Іосіфа I, бо стары гарадскі гарнізон быў разбураны падчас рэвалюцыі 1848 года. Музей, знаходзячыся ў цэнтры Арсенала, павінен быў захоўваць інфармацыю пра перамогі Аўстрыі і яе правадырах. Будынак складаюць 5 галоўных частак: галоўная зала, прысвечаны памяці военачальнікаў, і 4 залы для правядзення выставак. Бронзавыя гарматы выстаўлены знадворку музея.