Gospelsangerne ble ofte akkompagnert av piano, og etter hvert også elektrisk orgel når slike ble tilgjengelige. Trommer, bass, gitar og andre instrumenter ble også brukt. Også jubileegruppene tok etter hvert i bruk instrumentakkompagnement. Sangene bygde ofte på en sekstentakters musikalsk form, og tonaliteten bygget på de samme skalaer som bluesen, selv om akkordsekvensene ofte fulgte noe andre mønstre. Foruten de gamle spirituals, var også særlig metodistenes salmesangtradisjon en av de inspirasjonskildene for gospelkomponistene.