En av de midler han tok i bruk i denne periode og som ble en viktig del av det nye gudstjenesteritualet var salmer (ty. , kirkesang). Luther valgte å skrive sangene på folkespråket, tysk. Salmene ble dermed et viktig redskap til å formidle evangeliet etter luthersk forståelse og var sammen med prekenen sentral i Den tyske messe. Selv om menighetssang hadde forekommet i middelalderen på folkespråk, var det langt vanligere med korsang, som regel til latinske tekster. Først med reformasjonen tok allsang i gudstjeneste fart. Det gikk lenge tregt, men nå alltid på folkespråket. Viktig for Luther var å lage tilstrekkelig enkle melodier som folk kunne lære seg.