Graarud representerte partiet Høyre i Holmestrand bystyre fra 1892 og var ordfører i Holmestrand i periodene 1898-1900 og 1907-1909. I 1900 ble han valgt til Stortinget, der han satt i to perioder, 1900-1903 og 1903-1906, og var medlem av Kirkekomiteen. I 1905 var han den første i Holmestrand til å gi sin ja-stemme ved valget om oppløsninga av unionen med Sverige. Han ble tildelt 7. juni-medaljen.