Orvin vokste opp i Hattfjelldal der faren Ole Tobias Olsen (1830-1924) var prest frem til 1905 da familien flyttet til Kristiania. Han ble uteksaminert som cand.min. i 1912. Allerede i 1913 deltok han på Adolf Hoels ekspedisjon til Spitsbergen. Han tok doktorgraden (dr.philos) i 1934 ved Universitetet i Oslo.