Scott Joplin var sønn av en frigitt slave. Han ble født i Linden. Det er blitt hevdet at han snarere ble født i Texarkana, men det stedet eksisterte ikke da. Som barn lærte han å spille fiolin, og fra syvårsalderen fikk han systematisk klaverundervisning av Julius Weiss. Allerede som femtenåring reiste han rundt som barpianist i Texas og Louisiana.