Næsteby var kjøpmannssønn og vokste opp i Thorvald Meyers gate på Grünerløkka. Han la tidlig musikalske evner for dagen og var sopransolist i som ble ledet av Johannes Berg-Hansen. Allerede som tolvåring spilte han fiolinsolo ved guttekorets konsert i Oslo domkirke hvor den unge Rolf Karlsen akkompagnerte på orgel. Han opptrådte også som sopransolist og fiolinsolist på samme konsert allerede i tolvårsalderen. Kai Angel studerte fiolin hos Henrik Due før han som 20-åring i 1940 fikk engasjement som fiolinist i Oslo Filharmoniske Orkester hvor han etter prøvespill var fast ansatt som 2. fiolinist 1943–1947 og som 1. fiolinist 1947–1979. Med permisjon fra Filharmonien var han 2. konsertmester i Kringkastingsorkestret 1951–1952. Han debuterte som fiolinist i Universitetets aula i 1947 med pianisten Hans Solum som akkompagnatør og med sonater av Georg Friedrich Händel, Francesco Maria Veracini, Cesar Franck og Edvard Grieg på debutprogrammet.