Han vokste opp i Newark, New Jersey og ble med i den første verdenskrig som trommeslager, hvilket brakte ham til medaljebringende kamper i Frankrike der han fikk sitt tilnavn «The Lion». Derpå flyttet han til Harlem og akkompagnerte bl.a. Mamie Smith, samt ledet husbandet på Leroy's. Han ble en av de ypperste utøvere innen stride piano på 1920-tallet, hyppig vinner av datidens «cutting contests» i konkurranse med James P. Johnson og Fats Waller, såvel som mye brukt rent party-musiker.