Rosseland var den yngste av ni søsken og vokste opp i enkle kår i bygda Vikøy, ca. 3 km sør for Norheimsund. Etter at folkeskolen var fullført, arbeidet han en tid på en gård, og på en hermetikkfabrikk i Haugesund, men med økonomisk hjelp fra velstående sambygdinger ble han i stand til å ta middelskolen på Voss, og viste tidlig akademisk talent.