Knudsen debuterte som sekstenåring i 1929. Han var organist ved Bach-festivalen i Oslo i 1935, og ansatt i fem år som fagottist ved Harmonien i Bergen på slutten av 1930-tallet.