Som leder for KPDs politbyrå, presset Pieck på for at KPD og Sozialdemokratische Partei Deutschlands (SPD) i den sovjetiske okkupasjonssonen skulle bli slått sammen til Sozialistische Einheitspartei Deutschlands. Han hadde også stor innflytelse over utarbeidelsen av SEDs partiprogram. 22. april 1946 ble Pieck sammen med Otto Grotewohl fra SPD leder for SED. 11. oktober 1949 ble Pieck valgt til DDRs president av det provisoriske parlamentet og . Han ble gjenvalgt i 1953 og 1957. Av helsemessige årsaker viste han seg ikke så ofte offentlig.