Han var sønn av brigadelege Gottlieb Christian Roll, som kom fra Danmark, og hans andre hustru Albertine Ovidia Krog. Han var oppkalt etter sin morfar, sogneprest Ove Christian Hersleb Krog på Melhus. Han tok artium ved Trondhjems katedralskole i 1833 og deretter offisersutdannelse, så juridisk embedseksamen i 1840.