Olinus tok artium på Lillehammer i 1864, og arbeidet deretter et år som huslærer hos sorenskriver Strøm på Tynset. Gjennom samværet med sorenskriversønnen Boye Strøm utviklet han sin botaniske interesse. Han ble cand.real. i 1875 og arbeidet deretter som lærer i Elverum, Svelvik og ved Christiania Opfostringshus. Sommeren 1878 ble han ansatt som adjunkt ved Tromsø offentlige skole. Etter et halvt år ble han forfremma til overlærer, og denne stillinga hadde han til 1888. Fra 1888 var han ansatt som kopist i Statistisk sentralbyrå i Kristiania. Som pensjonist flytta han tilbake til Trysil.