Etter å ha giftet seg med en danserinne, flyttet Cole i slutten av 1930-årene til Los Angeles og dannet jazzbandet som opptrådte en del i radio. Det endelige gjennombruddet kom i 1940 med platen . I 1943 fikk trioen kontrakt med plateselskapet Capitol Records. Cole kom til å være tilknyttet selskapet resten av livet. Kombinasjonen av utsøkt låtmateriale fra datidens ledende slagerkomponister, fremragende musikalske arrangementer og Coles distinkte syngestil resulterte i en lang rekke slagersanger som solgte i milliontall. Det sies at fortjenesten på Coles platesalg mer enn finansierte byggingen av den enorme Capitol Records Building i Hollywood. I underholdningsbransjen sa man at denne bygningen var «The House that Nat Built».