I 1969 ble SPD nytt regjeringsparti etter den store koalisjonen, og Bahr kunne da sammen med Brandt virkeliggjøre Ostpolitik. I 1970 ble det innledet forhandlinger med Sovjetunionen og DDR med Bahr som vesttysk representant. Bahr gjorde fremgang i denne rollen med Moskvaavtalen i 1970, Transitavtalen med DDR i 1971 og grunnlagsavtalen mellom Vest-Tyskland og DDR i 1972. Bahr ble i ettertid omtalt som «..ekstremt dyktig og sikker» av Henry Kissinger ved avtalen i 1971. Fra et utgangspunkt hvor Vest-Tyskland og DDR stod langt fra hverandre ved det første møtet i 1970, tok det bare to år før Bahr og Michael Kohl fra DDR skrev under på grunnlagsavtalen.