Coleman ble født og oppdratt i Fort Worth i Texas, hvor han startet som tenorsaksofonist innen R&B og bebop. Senere byttet han til altsaksofon som han har beholdt som sitt hovedinstrument. Colemans saksofontone er kanskje en av de lettest gjenkjennelige innen jazz. Hans klagende og gråtende tone er tydelig påvirket av blues.