Den 13 augusti 1961 började, under Ulbrichts ledning, byggandet av Berlinmuren (även kallad "Ulbrichtmuren"). När Warszawapaktens trupper 1968 invaderade Tjeckoslovakien och Prag och därmed också krossade Pragvåren, stödde Ulbricht beslutet. Ulbricht tillhörde de mest Moskvatrogna av östblockets stats- och regeringschefer.