Tveite vokste opp i Vennesla nord for Kristiansand og tok artium ved Kristiansand katedralskole i 1947. I 1953 ble Tveite mag.art. ved Universitetet i Oslo. 1954-1956 tilbrakte han ved London Scool of Economics. Han disputerte for doktorgraden i historie i 1961. I 1959 fikk han stilling som førsteamanuensis ved Universitetet i Bergen. I 1969 ble han ansatt som professor i økonomisk historie ved Norges Handelshøyskole (NHH) i Bergen. I 1970 ble han ansatt som professor i landbrukshistorie ved Norges landbrukshøyskole på Ås.