I 1981 gikk Pataki inn i politikken, da han ble valgt til borgermester i hjembyen Peekskill. Fra 1984 til 1992 satt han i delstatens underhus, før han ble valgt inn i senatet, der han satt fra 1992 til 1994.