1947 bosatte sig Hermlin i Östberlin, där han kom att verka för socialismens upprättande i Östtyskland; bl.a. med de antifascistiska berättelserna i "Die Zeit der Gemeinsamkeit" ('Gemensamhetens tid', 1949) och diktsviten "Der Flug der Taube" ('Duvans flykt', 1952) blev han en av landets mest inflytelserika kulturpersonligheter. Han hävdade dock individens rätt i det socialistiska samhället, något som kan ses i det förtäckt regeringskritiska hörspelet "Scardanelli" (1970). Han intog en kritisk ställning till Warszawapaktens invasion av Tjeckoslovakien och kuvande av Pragvåren 1968, samt till fråntagandet av den östtyska vissångaren Wolf Biermanns medborgarskap 1976.