Військову кар'єру почав підлітком у 1958 році. Після повалення монархії 1962 року Салех перейшов на бік республіканців і 1963 був зведений у чин лейтенанта 2-го рангу. Повалений єменський король і його прихильники, які втекли на північ країни, розв'язали громадянську війну, що тривала вісім років. У грудні 1967 роялісти обложили Сану. Салех був одним з героїв 70-денної облоги міста, що закінчилася перемогою республіканців.