Il est formé à l'Académie militaire de Benghazi, en compagnie de Mouammar Kadhafi et participe au coup d'État de ce dernier en 1969. Il est l'un des 12 membres d'origine du Conseil de commandement de la révolution présidé par Kadhafi. Il devient ensuite ministre de la défense et commandant des forces armées libyennes, Kadhafi lui-même restant commandant suprême. Lors du passage de la République arabe libyenne à la Jamahiriya arabe libyenne en 1977, son poste de ministre de la Défense est rebaptisé "Secrétaire du comité général libyen provisoire de la Défense".