Han ble først valgt inn i nasjonalforsamlingen i 1959 for partiet Mapai. Fra 1959 til 1965 var han viseforsvarsminister. Han ble tvunget til å tre tilbake på grunn av sin rolle i Lavon-skandalen og forlot deretter Mapai og ble generalsekretær for det nye partiet til Ben-Gurion, Rafi. Dette nye partiet inngikk i 1968 sammen med Mapai og Achdut Ha'avodah i koalisjonspartiet Alignment (forløperen til Arbeiderpartiet).