Som følge av de stalinistiske utrenskninger som ble organisert i Polen av Bolesław Bierut ble Żymierski arrestert i 1952. Han ble imidlertid løslatt i 1955 og alle anklager mot ham ble frafalt. Han ble rehabilitert av den polske regjeringen i 1956. Rola-Żymierski var også medlem av Det polske forente arbeiderparti. Etter at kommunistregimet under Wojciech Jaruzelski innførte unntakstilstand i 1981 ble han medlem av sentralkomiteen og av Den nasjonale enhetsfronten.