Den initielt banjo-spillende Westby spilte tidlig med Cirkus Verdensteater, før han ble med som fiolinist i et tidlig jazzband i 1924. Senere antok han gitar-rolle i Kabaorkesteret, ledet av Willie Vieth. Fra 1933 til 1939 var han i det populære Funny Boys (1933–39) der han også stod bak låten "Sigarett Stomp". Han spilte også i orkestre ledet av Freddy Valier, samt Robert Normanns egen kvartett String Swing (1938–39).