Etter delingen av India, var Ali blitt Pakistans utsending til De forente nasjoner. Han hadde støtte fra Muhammad Ali Jinnah da han 28. november 1947 ble utnevnt av nizam Osman Ali Khan til statsminister i Hyderabad. Ali ble statsminister i spissen for en muslimskdominert Ittihad-regjering på et tidspunkt da det var krise i forholdet mellom Hyderabad og India. Partene hadde blitt enig om en stillstandsavtale, men Hyderabad tok skritt i retning av uavhengighet, en politikk Ittihad var pådriver for. Alis statsministerperiode var også preget av aktivitet fra den militante razakarorganisasjonen tilknyttet partiet Ittihad og ledet av Kasim Razvi. Som statsminister forsøkte Ali å få Hyderabads sak framlagt for FN. Situasjonen utviklet seg til at India i september 1948 invaderte Hyderabad.