Hans ensembler fra 1920-årene fikk avgjørende innflytelse, og opptakene fra denne perioden blir regnet blant tidenes ypperste jazzinnspillinger. Hans duetter med Ella Fitzgerald 30 år seinere er også blitt klassikere, og i 1968, da helseproblemer omtrent hadde satt en stopper for hans karriere som jazzmusiker, opplevde han stor suksess med . Denne melodien kan neppe kalles jazz, men er meget karakteristisk for Armstrongs positive og optimistiske holdning.