I 1536 sluttet han seg til den anabaptistiske bevegelsen, ble døpt igjen (såkalt troende dåp) og begynte å virke som evangelist. Med dette gikk han også ut av Den katolske kirke. Han sluttet seg til døperbevegelsen ti år etter dens begynnelse, men ble etterhvert en av dens mest fremtredende ledere. Hans største fortjeneste er å ha isolert de gruppene som ville ty til vold og ha samlet den fredelige, men spredte og forfulgte grenen av bevegelsen i det nederlandske-nordtyske området. Teologisk orienterte han seg ved bergprekenen og utviklet en eksplisitt pasifistisk teologi. Hans mest kjente verk er , som kom ut i 1540. Selv om han tilhørte den eksplisitt pasifistiske hovedlinje i den anabaptistiske bevegelse, ble han forfulgt av den tysk-romerske keiseren Karl V.