Etter flytting til Washington (1891) lærte han fiolin og startet sitt virke som komponist, før han flyttet til New York (1903). Der fikk han engasjement som piano-spiller, fortsatte sine musikkstudier og antok rollen som musikalsk leder for flere afroamerikanske vaudeville. Resse Europe etablerte og ledet musiker-organisasjonen «Clef Club» (1910–14), samt «Clef Club Orchestra, som med sine nær 130 musikere ble det første jazz-orkester som fremførte i Carnegie Hall (1912). Med danseparet Vernon Castle og Irene Castle utviklet han foxtrot, en tilpassing av W. C. Handys (1914–15) og ledet det mannsterke «Society Orchestra» til ragtime-innspillinger på Victor. I den første verdenskrig ledet han kompani-orkestret «The Harlem Hellfighters» i Frankrike, som etter krigen fortsatte sitt virke i hjemlandet med plateinnspillinger på Pathé Records og omfattende turnevirksomhet (1919). Han døde etter å ha blitt knivstukket av sin egen perkusjonist Herbert Wright, på et tidspunkt da han var den mest kjente afro-amerikanske bandleder. Han ble i media karakterisert som «Jazz king», og mange år senere som «The Martin Luther King of music» (av Eubie Blake).