Shehu var medlem av kommunistpartiene i Spania og Italia før han gikk inn i Arbeidets parti og den albanske motstandsbevegelsen i 1942. Han steg raskt i gradene i både kommunistpartiet og motstandsbevegelsen, som etterhvert var kontrollert av kommunistene. Etter frigjøringen fra de italienske og tyske okkupantene i 1944 ble Shehu generalstabssjef.