Severinsen begynte i The NBC Orchestra og The Tonight Show starring Johnny Carson i 1962, og overtok i 1967 jobben som orkesterleder etter Milton DeLugg. Severinsen steppet også inn som annonsør og sidekick for Johnny Carson når hans faste annonsør og sidekick, Ed McMahon, var borte fra programmet. Severinsen var som oftest også sidekick for gjesteprogramlederne som ledet mandagsepisoden av programmet, fordi McMahon ofte benyttet anledningen til å ta seg fri når Carson hadde fri. Severinsen jobbet som orkesterleder helt til Johnny Carson ga seg med The Tonight Show 22. mai 1992.