Pro Patria Union
Im März 1999 wurde Herkel für die konservative „Vaterlandsunion“ ("Isamaaliit") erstmals als Abgeordneter in das estnische Parlament ("Riigikogu") gewählt, dem er seitdem ununterbrochen als Abgeordneter angehört. Von 2009 bis 2011 war der Vizepräsident der Parlamentarischen Versammlung des Europarats. Er setzte sich dabei besonders für die Einhaltung der Menschenrechte in Aserbaidschan ein.