Kvarme er oppvokst i Trondheim. Han har teologisk utdannelse fra Menighetsfakultetet i Oslo, og ble cand.theol. derfra i 1974. Han har også det praktisk-teologiske seminar fra MF. Kvarme har også hebraisk mellomfag fra Universitetet i Oslo (1970), og studier i rabbinisme og judaistikk fra Göttingen i Tyskland og Jerusalem i 1975 og 1976.