Sandmo ble født den 9. januar 1938, og vokste opp i Tønsberg. Han flyttet til Bergen i 1958, og fullførte i 1961 siviløkonomutdanningen ved Norges Handelshøyskole, hvor han i 1970 tok doktorgraden i samfunnsøkonomi, med en avhandling om sparing og investering under usikkerhet. Året etter ble han utnevnt til professor.