Gleditsch ble ved det teologiske fakultet ved Universitetet i Oslo i 1883. Etter noen år som lærer i Trondheim begynte han sin prestetjeneste som kapellan på Lista i 1887. Han tjenestegjorde siden bl.a. ved Sjømannskirken i Antwerpen (1891) og som sokneprest i Arendal (1912). Han hadde også forskjellige prestestillinger i Oslo, senest som domprost fram til 1923.