Als Oberst der zum Jordanien-Einsatz bestimmten 20. Brigade der irakischen Armee war er am 14. Juli 1958 zusammen mit Generalmajor Abd al-Karim Qasim am Sturz der Haschimiten-Monarchie und der Ausrufung der Republik beteiligt. In der Revolutionsregierung wurde er unter Premier- und Verteidigungsminister Qasim zunächst Vizepremier- und Innenminister. Im Streit um die Ausrichtung der Revolution stellte sich Arif aber bald auf die Seite konservativer panarabischer Nationalisten, die den raschen Anschluss an die Vereinigte Arabische Republik (VAR) forderten, während irakische Regionalpatrioten und Kommunisten ebenso wie Qasim eine Vorherrschaft Gamal Abdel Nassers ablehnten und bestenfalls eine lockere Föderation propagierten.