Depois do "crash" da bolsa de valores em 1929, as economias de Carmichael diminuríam consideravelmente. Felizmente, Louis Armstrong havia gravado a canção "Rockin' Chair" no estúdio Okeh em 1929, dando a Carmichael um impulso bastante necessitado tanto financeiramente quanto em sua carreira. A canção se tornou um dos clássicos de jazz de Carmichael. em 1930, Carmichael compôs e gravou "Georgia On My Mind" (letra de Stuart Gorrell). A música se tornou outro clássico do jazz, e também do pop, especialmente depois da Segunda Guerra Mundial. Carmichael também fez o arranjo e gravou "(Up A) Lazy River" em 1930, uma música de Sidney Arodin. Embora Carmichael e a banda que montou tenham gravado "Stardust" como uma canção instrumental em 1927, Bing Crosby gravou-a com a letra de Mitchell Parish em 1931.