Han var medlem i Øvre Eiker herredsstyre i fra 1899 til 1902. Fra 1905 var han med i Nedre Eiker herredsstyre, og ordfører der fra 1908 til 1913. Horgen representerte Buskerud krets på Stortinget i periodene 1913–15, 1916–18 og 1919–21. Han var heile tida medlem i protokollkomiteen.