Etter utdannelsen gikk han inn i politikken. Etter blant annet å ha vært delstatens jernbanedirektør, ble Thune innvalgt i Representantenes hus i 1996. Han ble gjenvalgt i 1998 og 2000. I 2002 utfordret han Tim Johnson om en plass i Senatet, men tapte med 524 stemmer. I 2004 slo han sittende senator Tom Daschle med 51 % av stemmene, en margin på 4 508 stemmer. I 2010 ble han gjenvalgt uten motstand.