I 1960 ble han innenriksminister i Baden-Württemberg i Kurt Georg Kiesingers regjering. Da Kiesinger ble tysk kansler i 1966 etterfulgte Filbinger ham som statsminister i Baden-Württemberg. Det kom til brudd med FDP, men Filbinger dannet en storkoalisjon med SPD. Ved valgene i 1972 og 1976 fikk CDU under Filbingers ledelse absolutt flertall. I Filbingers regjeringstid ble konfesjonsskolen avskaffet og det ble gjennomført en kommunereform.