Allerede 30. april 1945 var han tilbake i det krigsødelagte Tyskland, etter at sovjeterne hadde utpekt ham til å lede gjenoppbyggingen av KPD. Sovjeterne fikk det påfølgende året tvangssammenslått partiet med SPD, slik at det heretter fremstod under navnet SED, om enn like fullt under kommunistenes overveldende dominans.