W 1974 wszedł do Przywództwa Regionalnego irackiej partii Baas, zaś trzy lata później został dokooptowany do Rady Dowództwa Rewolucji. Był ministrem informacji w trzech kolejnych gabinetach Ahmada Hasana al-Bakra. Od 1979 był także wicepremierem Iraku. Jako minister spraw zagranicznych Iraku odegrał znaczącą rolę w zacieśnianiu współpracy iracko-radzieckiej oraz w uzyskaniu poparcia Stanów Zjednoczonych dla Bagdadu podczas wojny iracko-irańskiej. W 1980 był celem nieudanego zamachu zorganizowanego przez tajne stowarzyszenie antyrządowe Zew Islamu. Związany z organizacją zamachowiec usiłował zabić go, gdy Aziz odwiedzał Uniwersytet Mustansirijja w Bagdadzie. Minister wyszedł z ataku bez szwanku, zginęło natomiast kilku studentów.