I 1931 ble han pianist i Louis Banks orkester, og i 1934 startet han sitt eget orkester. Dette orkesteret bestod av Guy Kelly (trompet), Dalbert Bright (klarinett), Israel Crosby (kontrabass), Ike Perkins (gitar) og Jimmy Hoskins (trommer), samt Ammons selv på piano. Med dette orkesteret spilte han inn sine første plater i 1936, 29 år gammel.