Han var blant annet underminister for handel i Gerald Fords regjering i 1975. I 1976 ledet Baker Fords mislykkede valgkamp for gjenvalg. Etter å ha ledet valgkampen til George H.W. Bush under primærvalgene i 1980, fikk Baker stillingen som stabssjef i Det hvite hus da Ronald Reagan ble valgt til president med Bush som sin visepresident. Baker hadde denne stillingen fra 1981 til 1985, da han ble finansminister.