År 1924 började Rashid Ali al-Gaylani sin karriär inom politik i den första regeringen ledd av premiärminister Yasin al-Hashimi. Yasin al-Hashimi utsåg Gaylani till justitieminister. De två männen var glada nationalister och motsatte sig alla brittiska inblandningar i Iraks interna politik. De förkastade det anglo-irakiska fördraget som undertecknades av regeringen för premiärministern Nuri as-Said 1930. De bildade partiet för det nationella brödraskapet för att främja nationalistiska mål. Gaylani tjänstgjorde som premiärminister för första gången 1933 men hade sitt ämbete i mindre än åtta månader. 1938 greps han och förvisades till 'Ana för sin misstänkta roll i Bagdad-bombkastet i november och den allmänna politiska omvälvningen.