Goppel ble innvalgt i Bayerns landdag i 1954. Fra 1957 var han medlem av Bayerns regjering, først som statssekretær i justisdepartementet, og senere som innenriksminister. I 1961 ble han ministerpresident i Bayern. I løpet av de 16 årene han ledet regjeringen i Bayern, utviklet delstaten seg fra en landbruksstat til industristat.