Heereswaffenamt ble grunnlagt 8. november 1919 som «Waffenamt», (Våpenbyrået), ved Reichswehrministerium i Berlin. Navnet ble endret 5. mai 1922 til «Heereswaffenamt». Byråets første sjef var generalløytnanten Ludwig Wurtzbacher. I fredstid var byrået direkte understilt hærsjefen. Ifra krigsutbruddet 1. september 1939 lå det under «Chef der Heeresrüstung und Befehlshaber des Ersatzheeres» (Sjef for hærrustning og for reservestyrkene). Heereswaffenamt ble omorganisert flere ganger under andre verdenskrig.