Il se réconcilie avec la France. Le traité de l'Élysée, signé le , annonce une coopération avec la France dans tous les domaines. Lors de sa visite à Moscou en 1955, Adenauer obtient la libération des de guerre allemands restants et accepte les liens diplomatiques proposés par l'URSS. En 1958, il participe avec le maire de Berlin-Ouest, Willy Brandt, aux protestations contre « l'ultimatum de Khrouchtchev » qui marque le début de la crise de Berlin. Pourtant, il ne peut que subir l'édification du mur de Berlin en 1961.