Hans kirkemusikalske arbeid fikk stort gjennomslag. I 1531 gav han ut med 157 tyske salmer. 137 salmer var selvdiktede eller omarbeidet av ham og de fleste melodiene stammet fra den tsjekkiske tradisjonen som kom med De bøhmiske brødre. Denne første tyskspråklige salmebok i den bømiske brødremenigheten har flere ganger blitt trykket på nytt, og har hatt stor påvirkning på videre salmetradisjon. Weißes egen diktning har også blitt bevart og blir fremdeles brukt. I er det med ni salmer av han, og i har han med en salme.