Lorange fikk etter hvert opparbeidet en stor og viktig privat samling av oldsaker, som etter hans død ble overtatt av Universitetets Oldsaksamling. Han var formann i Bergensavdelingen av Fortidsminneforeningen i den perioden da man nærmet seg en ferdig restaurering av Håkonshallen (ferdig 1895), og han var sentral i gjenreisingen av Fantoft stavkirke 1883. Lorange ble etterfulgt av Gabriel Gustafson som var konservator frem til 1899.