Etter at han ble ordinert prest i 1986 var han fungerende sokneprest i Ørland menighet, og han var sokneprest i Beitstad og Namdalseid menigheter fra 1986 til 1995. I 1995 kom han til Oslo hvor han ble sogneprest i Vålerenga kirke. I tiden i Vålerenga var han også aktiv i den offentlige debatten og var med i flere debattprogram om moral, politikk og Den norske kirkes rolle i samfunnet. I perioder var han omstridt og hans prestegjerning vakte tidvis harme innad i deler av kirken. Blant annet invitere han flere kontroversielle talere til gudstjenestene sine. Disse inkluderer forretningsmannen Stein Erik Hagen som talte om toleranse, legning og tro, -redaktør Knut Haavik om tro og tvil og Per Fugelli som hadde benyttet anledningen til å angripe Fremskrittspartiet og snakke politikk. Det ble skapt debatt om hva kirken skulle og ikke skulle være. Etter hans oppfatning skulle det være rom for alle i folkekirken. I 2010 utgav han den omstridte boka . Kort tid etter varslet biskop Ole Christian Kvarme oppsigelsessak mot Gelius, og en drøy måned senere ble det kjent at Gelius hadde fratrådt sin stilling etter press fra biskopen. Hovedårsaken var innholdet i boka. Den 22. mai 2011 holdt han en avskjedsgudstjenesten i Vålerenga kirke. Samme år utgav han boka , som i stor grad omhandler striden som oppstod i forbindelse med hans forrige bokutgivelse. Her tar han et oppgjør med flere norske kjendiser og personer innen kirka. Han går hardest ut mot biskop Kvarme og tidligere Oslo-biskop Gunnar Stålsett.