Sundby var elev ved Kristiania tekniske skole og tok eksamen i 1898. Etter dette ble han samme år ansatt ved Kværner Brug. Han dro på studiereise til USA i årene 1904–1905 og ble etter dette sjef for Kværners turbinavdeling. Denne stillingen hadde han fra 1905 til 1912, med et avbrudd i 1907 for en ny studiereise, denne gangen til Sveits og Italia.