I 1954 overtok han etter Hoxha som statsminister. Shehu var blant dem som utarbeidet den kinesisk-albanske alliansen og bruddet med Sovjetunionen i 1961.