Nach der Schule besuchte ar-Razzaq die Militärakademie in Bagdad. Der 1943 in der damals noch britischen Luftwaffe ausgebildete Luftwaffenoffizier (Brigadegeneral) wurde nach der Revolution von 1958 Kommandant des wichtigen Luftwaffenstützpunkts Habbaniya und schließlich Brigadegeneral. Als eifriger Anhänger des ägyptischen Präsidenten Gamal Abdel Nasser und als Vertreter des Arabischen Einheitsstrebens wurde er 1959 wegen Teilnahme an einem Umsturzversuch 1959 zunächst abgesetzt, 1962 aber wieder rehabilitiert. Er war der Führer des nasseristischen Flügels des zerstrittenen Offizierskorps und hatte bereits sowohl am Baath-Putsch vom 8. Februar 1963 als auch am Militärputsch vom 18. November 1963 gegen die Baath-Regierung teilgenommen. Danach wurde er Mitglied der von dem Ex-Baathisten Fuad ar-Rikabi und Brigadegeneral Abdul Karim Farhan gegründeten Arabischen Sozialistischen Union Iraks.