Rebennack ble født i New Orleans i Louisiana i USA og den profesjonelle musikkarrieren hans startet der i 1950-årene. Han spilte opprinnelig gitar og spilte sammen med lokale band, som Mac Rebennack and the Skyliners, (Paul Staele/Dennis «Bootsie» Cuquet, trommer; Earl Stanley, bass; Charlie Miller, trompet; Charlie Maduell, saksofon; Roland «Stone» LeBlanc, vokal), Frankie Ford and the Thunderbirds, og Jerry Byrne and the Loafers. Han hadde en regional hit med en Bo Diddley-aktig instrumental med navn «Storm Warning» på Rex Records i 1959. På denne tiden produserte han som A&R-mann sammen med Charlie Miller singler for Johnny Vincent og Joe Koralna for lokale selskap som ACE, RON, RIC og andre. For disse innspillingene hadde han ansvar for A&R og rytmeseksjonen mens Miller skrev blåsearrangementa. Dette var et produktivt team frem til Miller valgte å flytte til New York for å studere musikk.