Sammen med den franske president Valéry Giscard d’Estaing, som også var hans personlige venn, forbedret Schmidt de tysk-franske forbindelser og tok avgjørende skritt mot en europeisk integrasjon. Kort tid etter Schmidts utnevnelse ble Det europeiske råd etablert. I 1975 var han en av grunnleggerne av Organisasjonen for sikkerhet og samarbeid i Europa. De viktigste næringspolitiske sakene gjennomførte han også med Giscard: innføringen av Det europeiske monetære system og ECU i 1979 som var forløpere til Euro. Schmidt og Giscard hadde også ideen til dannelsen av G7.