Carlo Schmid var gjennom hele sitt politiske virke opptatt av forsoningen og samarbeidet mellom Frankrike og Tyskland. Han var medlem av Europarådets parlamentarikerforsamling fra 1950 til 1960 og igjen fra 1969 til 1973. Dessuten var han president for Den vesteuropeiske unionens forsamling fra 1963 til 1966, etter å ha vært visepresident siden 1956.