Adenauer startet sitt arbeid for en remilitarisering straks Forbundsrepublikken var etablert, 24. mai 1949. Han hadde et klassisk syn på den suverene nasjonalstat: Staten kunne ikke oppnå selvstendighet uten et eget forsvar. På utenriksministerkonferansen i New York i september 1949, presenterte han sitt prinsipp: Tyskland skulle få sin suverenitet, mot å bidra til gjenoppbygging av forsvaret.