Greve fattet som ungdom dyp interesse for den kristne tro og besøkte flere ganger Hans Nielsen Hauge på hans gård på Bredtvet. Han tok teologisk embetseksamen i Bergen i 1823, og arbeidet først som residerende kapellan i Haus. I 1827 ble han sogneprest i Hosanger før han i 1833 ble sogneprest i Sund hvor han også bodde det meste av sitt liv. Han var også politisk aktiv og var ordfører i Sund kommune i perioden 1838 til 1855.