Tyskland fikk for første gang et føderalt forsvarsdepartement i 1919. I dagens form ble departementet etablert i 1955 under den kalde krigen som forsvarsdepartementet i det daværende Vest-Tyskland.