Omkring 1912 begynte han å synge og spille gitar på lokale fester og tilstelninger. Blant hans musikalske inspirasjonskilder var ikke bare musikken blant de svarte bomullsplukkerne i området, men også gitarspillende meksikanske jordbruksarbeiderne, som brakte med seg en flamencoinspirert stil. De ulike impulsene gjorde at han utvikla en unik stil med kompleks frasering og raske løp. I løpet av et par år begynte han å ta spillejobber i Groesbeck, Buffalo, Waco o.a. nærliggende byer, og fra omkring 1915 også Dallas. Fra 1917 var han bosatt i Dallas. Her møtte han den noe eldre Leadbelly, som ble mektig imponert over Jeffersons spill, og seinere lagde sanger til hans pris, blant annet "Blind Lemon's Blues." De to spilte også sammen i en kort periode, inntil Leadbellys første fengselsopphold.