Rapidement réhabilité, il n'occupe toutefois plus le devant de la scène politique. Avec l'appui de Vladimir Semyonov, conseiller politique aux autorités militaires soviétiques en Allemagne de l'Est, il espère profiter du soulèvement populaire de juin 1953 pour forger un État allemand unifié, dont il prendrait la tête. L'insurrection ayant abouti à un échec, il s'enfuit en Allemagne de l'Ouest en , exfiltré avec l'aide de Reinhard Gehlen. Installé à Munich, il y travaille pour le Service fédéral de renseignement, les services de renseignement ouest-allemands issus de la "Gehlen Organization" et coopérant toujours avec les Américains. Il décède un an plus tard, d'une crise cardiaque.