Sundby var elev ved Oslo katedralskole, og studerte senere rettsvitenskap ved Universitetet i Oslo. Han ble i 1966 og var fra 1972 ansatt som førsteamanuensis ved institutt for statsrett og folkerett.