Fra 2005 til 2007 var han medlem av bystyret i Tallinn og rådgiver for justisminister Rein Lang. I 2007 ble Pevkur første gang valgt inn i Riigikogu.