Ernst Wollweber, der var født "Fritz Karl Wollweber", blev i 1919 aktiv i det tyske kommunistparti, KPD, og medlem af partiets centralkomité allerede to år senere. I 1923 blev han leder af KPD's militante fløj i Hesse-Waldeck, Thüringen og Schlesien. Hans aktiviteter medførte, at han blev fængslet i 1924. Han blev løsladt i 1926, og blev i 1928 valgt til det preussiske parlament, hvor han sad frem til 1932. Da medlemmerne af KPD begyndte at blive forfulgt af nazisterne efter Rigsdagsbranden i februar 1933, blev Vollweber tvunget til at flygte, først til København, senere til Leningrad.