I 1964 ble han medlem av det polske kommunistpartis sentralkomité. I 1968 var han en av de ledende under utrenskningene i den polske hær, en antijødisk hetskampanje igangsatt av Mieczysław Moczar. Under denne kampanjen ble mer enn tusen jødiske offiserer degradert og kastet ut av de væpnede styrker. Det ble også den ikke-jødiske forsvarsminister, marskalk Marian Spychalski, som ble underkastet rettsforfølgelse, og Jaruzelski overtok hans stilling i 1968 som forsvarsminister.