Da Kurt Georg Kiesinger dannet den store koalisjonen med SPD, gjorde sosialdemokratene krav på utenriksministerposten, og Schröder ble isteden 1. desember 1966 utnevnt til forsvarsminister. I en intern avstemning i CDU/CSU-fraksjonen hadde Kiesinger fått 137 stemmer og Schröder 81 stemmer som partienes kanslerkandiat.