Området ble først befolket av Creek-indianerne. Europeere kom til området på 1700 tallet. Shawnee indianerne opprettet byen Chalakagay i 1748. Navnet kommer fra Chalaka-ge, («Stedet til Chalaka stammen»). I 1836 ble indianerne imidlertid tvangsflyttet vestover. Byen ble formelt stiftet i 1838 med navnet Sylacogga. I 1887 fikk byen det nåværende navnet Sylacauga.