göndermeden İstanbul'a geri çevirtti. I. Mahmut bu mektup geri gelince İran meselesini kendi huzuruyla görüşmek üzere sadrâzam, şeyhülislâm, kazaskerler ve devlet ricalinden oluşan bir meşveret meclisi toplattı. 12 Ağustos 1735'te Saraya davet edilen devlet ricali meseleyi görüşmekte iken Hekimoğlu Ali Paşa sadaretten azledilip mühr-ü humayın geri alındı. Yerine Bağdat Valisi olan Gürcü İsmail Paşa sadrazam tayin edildi.

Azlinden sonra Midilli Adası'na sürgüne gönderildi. İran'la barış yapılması karşında bulunan ve Hekimoğlu Ali Paşa'nın sadrazamlıktan azline neden olan İran seraskeri Köprülüzâde Abdullah Paşa ise bütün selahiyetlerine rağmen İranlılarla çatışmalarda pek çekingen davranmaktaydı. Merkezden daha atak davranması için sert bir emir gönderildi. Bundan sonra ihtiyatsız davranması nedeniyle Bogaverd civarında Nadir Şah'la yapılan Arpaçay Muharebesi'nde Osmanlı ordusu yenik düştü ve ordunun komutanı olan Köprülüzâde Abdullah Paşa hayatını kaybetti.

Hekimoğlu Ali Paşa 1736'da çok geçmeden Midilli'de sürgünden af edildi ve kendine Kandiye muhafazalığı ile birlikte Girit valiliği görevleri verildi. Bu göreve acele gitmesi gerektiği için bir yabancı bandıralı gemi ile Girit'e gitmesine izin verildi.

Nisan 1736'da Bosna valisi tayin edildi. Bu valilk döneminde 1735-1739 Osmanlı-Rus-Avusturya Savaşı başlamıştı. Hekimoğlu Ali Paşa bu valiliği esnasında üç sene arka arkaya, Bosna'ya hücum eden büyük düşman kuvvetlerine karşı muvaffakiyetle karşılık verip önemli başarılar elde etti.

Avusturya önce Osmanlılarla barış müzakerelerine geçerek Osmanlıları oyalamış ve savaşa girmiyeceği intibasını vermişti; ama gizli Avusturya-Rus anlaşması ile 1735'te Rusların başlattığı savaşa girmeye hazırlanmaktaydı. Bosna üzerine General Hildeburg Hausen kuomutasında 150.000 kişilik bir Avusturya ordusu yürüyüşe başlamıştı. Bosna valisi Hekimoğlu Ali Paşa Avusturya'nın ciddi barış istemediğini Serdar-ı Ekrem Silahdar Mehmet Paşa'ya bildirmişti ama ondan bunun vesvese olduğu cevabını almıştı. Hekimoğlu Ali Paşa buna rağmen Bosna eyaleti ilerigelenlerini toplamış ve onları Avusturya hücumuna karşı uyarmıştı.

Savaş başlayınca Avusturya ordusu üç koldan hücuma geçti. Bunlardan biri Rumeli Eyaleti merkezi Niş'e kadar ilerleyip Niş'i eline geçirdi. Böylece İstanbul-Bosna yolu kapanıp Bosna tehlikeye düştü. Yenipazar Avuturyalılara bırakıldı.

9 Temmuz 1737'de Bosna'ya yönetilen Avusturya ordusu kolu İzvornik tarafından hücuma geçti. Hekimoğlu Ali Paşa Travnik sahrasında idi. Avusturyalılar önce Strumca kalesini kuşattılar; hiç beklemedikleri bir direnişle karşılaştılar ve kuşatma 15 gün sürdü. Bu kaleye yürüyen Hekimoğlu Ali Paşa'nın kuvvetlerini karşılamak için Avusturyalıların gönderdikleri güçler 5 saatlik bir muharebe ile mağlup edildi ve Strumca kalesi kuşatması kaldırıldı. Kuzey Bosna'ya hücum eden Avusturyalılar 20.000 kişi ile Puzin kalesini, 20.000 kişi ile Çetin kalesini ve 80.000 kişi ile Banyaluka kalesini kuşatmaya koyuldular. Hekimoğlu Ali Paşa bir aldatmaca ile Avuturyalılarain Banyaluka'ya giden yola kurduklara engelleri kenarlardan aşıp Banyaluka kalesi önünde Avusturya ana ordusu karşına geçti. İki taraf arasında başlayan Banyaluka Muharebesi'nde Hekimoğlu Ali Paşa taarruza geçip Avusturyalıları Banyaluka nehrine doğru sürdü. Birçok Avustruya askeri bu nehirde boğuldu. Bu muharebede Bosna Valiliği ordusu eline çok miktarda iase, ganimet ve levazım geçti. Banyaluka Muharebesi yenilgisi üzerine Hildeburg Hausen Avustruya komutanlığından alındı ve komutanlığa Prens Lotringen atandı. Bu mağlubiyetten Puzin ve Çetin kalelerini kuştamaya alan Avusturyalılar da kuşatmaları bırakıp geri çekildiler. O kış genellikle mevsim icabı savaş durdu ise de Hekimoğlu Bosna eyalet güçlerini bu sırada isyancı Karadağlıları bastırmakla görevlendirdi ve bu isyanlar durduruldu. .

Temmuz 1738'de Osmanlı ordusu Niş'e gelmişti ve Belgrad üstüne gitme kararlaştırılmıştı. Hekimoğlu Ali Paşa 20.000 kişilik eyalet ordusuyla bu orduya katıldı. Avusturya ordusu Belgrad ile Semendire arasında yarı yol olan Hisarcık (Almanca: Groschka) mevkisinde siperlenip cephe almıştı. Burada Kont Wallis komutasında Avusturya ordusu ile Osmanlı Serdar-ı ekremi İvaz Mehmet Paşa komutasındaki Osmanlı ordusu arasında 17 saat süren Hisarcık Muharebesi başladı. Bu muharebede Hekimoğlu Ali Paşa'nın ve emrindeki Bosna eyalet ordusunun çok önemli katkıları oldu. Osmanlı ordusu Avusturyalıları çok büyük bir hezimete uğrattı ve ordu mevcudunun yarısından fazlasını zayiat verdiler. 25 Temmuz'da Osmanlı ordusu Belgrad'ı kuşatmaya aldı ve bu kuşatmaya Bosna valisi Hekimoğlu Ali Paşa da iştirak etti.

Fransa'nın İstanbul elçisi Markı de Villeneuve aracılığı ile Avusturya ve Osmanlı temsilcileri arasında barış müzakereleri başladı. Fransa elçisi Hekimoğlu Ali Paşa'nın da Osmanlı temsilcileri arasında olmasını istemesi üzerine Hekimoğlu da Osmanlı temsilci heyetine katıldı. Uzun ve çetin geçen müzakerelerden sonra 18 Eylül 1739 tarihinde Osmanlılarla Avusturya arasında Belgrad Antlaşması imzalandı.

Bu sırada Mısır'da sorunlar çıkmıştı. Mısır'a gönderilen Osmanlı valileri oradaki kölemen beyleri tarafından eyaleti idare etmekten önlenmekte idiler. Kölemen beyler hemen hemen özerk Mısır'ı idare etmekteydiler. Mısır vergi gelirleri İstanbul'a gönderilmez olmuştu. İstanbul'dan gönderilen valiler eyaletin gerçek idarecileri olan Kölemen beyleri tarafından hakarete hedef oluyorlardı ve hatta bazıları bu beyler tarafından tutuklanmışlardı. Bosna valisi olarak üstün yetenek gösteren Hekimoğlu Ali Paşa Haziran 1740'ta Mısır Valisi tayin edildi. Yeni vali Mısır'da bir yıl içinde kölemen beylerini tedip ederek onların eyaletteki güçlerini tümüyle kırdı; Osmanlı Devleti idaresini yeniden tesis etti. Haziran 1741'de Mısır valiliğine damadı Yahya Paşa getirildi.

İran, Bosna ve Mısır'da üstün başarılarıyla Sultan I. Mahmud'un çok takdirini kazanan Hekimoğlu Ali Paşa, Anadolu'da idare için geri çağrıldı. Bunun için önce Eylül 1641'da Adana eyalet valiliğine getirildi. Kasım 1741'de ise merkezi Kütahya'da bulunan Anadolu Beylerbeyi olarak atandı.

Nisan 1742 'de ise padişahtan gönderilen bir gizli hatt-ı humayun ile sadrazam Nişancı Sehla Hacı Ahmed Paşa yerine ikinci kez sadrazamlığa getirildiği bildirildi. Onun bu 2. kez sedaret dönemi yaklaşık bir buçuk yıl kadar sürdü. Hekimoğlu Ali Paşa'nın ikinci sedaretinden azli yine İran sorunlarından ileri geldi.

Bu sırada Nâdır Şah mühim bir kuvvetle gelerek Kerkük'ü eline geçirdi. Dicle Nehri üzerine iki yerde köprü kurdurarak Musul, Diyarbakır ve Rakka taraflarına geçmek istediği haber alındı. Buna karşı tedbir alınması gerekmekteydi. Hekimoğlu Ali Paşa devlet ileri gelenlerinin fikirlerini alarak o yıl Doğu'ya şahsen sefere çıkmayı ve uygun bir kışlakta kalarak, Nadir Şah'ın vaziyetine göre gerekirse ilkbaharda erkenden harekata başlamaya karar verdi.

Sadrâzam bu planı Eyüp'te annesi Valide Sultan'in yalısında misafir bulunan Sultan I. Mahmut'a açıkladı. Şahsen doğuya gitmeden ve orada işi eline almadan bu duruma bir çözümün olamayacağını bildirdi. Fakat Sultan, Nadir Şah'ın birkaç ay önce bu hücumu yapacağı olasılığı bilinmekte iken Diyarbakır seraskerine gereken desteğin neden sağlanmadığı konusu üzerine dikkatini odaklamıştı. O zaman Diyarbakır seraskerine desteğin verilmemesini Sadrazamın bir ihmali olarak görmekte idi. Ama bunu sadrazama açıkça belli etmedi. Bununla bearaber devlet ileri gelenleriyle bir meşveret toplantısı yapılmasını irade etti. Bu meşveret meclisi sarayda 23 Eylül 1743'te toplandı. Fakat Sultan'ın sadrazama inancı yoktu ve bu meclis toplantıya açılmadan Darsusaade Ağası vasıtası ile Sadrazam Hekimoğlu Ali Paşa'dan mühr-i hümayunu aldırıp onu bu görevden azletti. Toplanan meşveret meclisinde Sultan sadrazam olarak Ali Paşa'nın Diyarbakır'a destek sağlamada ihmali olduğunu; bu yüzden sadrazamlıktan azledildiğini ve yeni sadrazamın Yeniçeri Ağası Seyyid Hasan Paşa olduğunu açıkladı. Toplantıda İran sorunu gayet derine inilerek ele alındı. Seyyid Hasan Paşa'nın bir aya varmadan İran Seferi'ne çıkması sonucu bu toplantıda açıklandı. Halbuki Hekimoğlu Ali Paşa'nın bizzat sefere gitmek istemesi kendisi için büyük bir külfet olmasına rağmen o, cephedeki durumu düzeltmek için bu zahmete katlanmayı üzerine almış idi. Buna karşılık vesveseli olan Sultan I. Mahmut bu kabulü değişik yorumlayıp kuşkulanıp onu sadrazamlıktan azletmişti.

Mühr-ü hüumayun alınır alınmaz Hekimoğlu Ali Paşa saray balıkhanesinden bir gemi ile Midilli adasına sürgüne gönderildi. Hekimoğlu Ali Paşa, Midilli'de iki ay kadar kaldı. Sonra affedilerek Kasım 1643'da Kandiye muhafızı ve Girit valiliğine tâyin edildi. Eski sadrâzamlardan Yeğen Mehmet Paşa'nın Aydın muhassallığına nakli üzerine Ekim 1744'te ikinci defa Bosna valiliğine gönderildi.

1745 de İran seraskeri önceki sadrâzam Yeğen Mehmet Paşa'nın tam Nâdir Şah'la yaptığı Revan Muharebesinde sırasında ecelinden vefatı ve sonra paralı asker olan leventlerin komutan emirlerini dinlemeyip taarruza geçmekten vazgeçmeleri ile ortaya çıkan Osmanlı ordusunda bozgunluk ve mağlubiyet üzerine doğuda durum çok ciddi bir safhaya gelmişti. Leventlerin ortadan kaldırılmaları kararı verildi. Bu sorunlara çare bulmak için Bosna valisi Hekimoğlu Ali Paşa hemen Halep valiliğine tâyin edildi. Gayet acele Anadolu tarafına geçirildi. Ocak 1746'da Anadolu Beylerbeyliği ile birlikte ile üçüncü defa Kars cephesi seraskerliği verildi. Kendisine gönderilmiş olan fermanda ilkbaharda Kars ve Diyarbakır cephelerinden İran üzerine taarruz yapılmasi istendi ve seraskerliğin kendisine yüksek ehliyeti dolayısıyla verildiği bildirildi. Fakat ertesi yıl İran'la barış antlaşması yapıldı ve askerî harekâta gerek kalmadı. Hekimoğlu Ali Paşa Anadolu'da büyük bir temizlik yaparak leventlik yapanları elemine edip sindirdi. Böylece komutan dinlememenin tekrar edilmesini önlemek için tüm levent ocakları ortadan kaldırıldı ve Osmanlı ordusunda bir daha "levent" adlı kara askeri bulunmadı.

Hekimoğlu Ali Paşa 28 Kasım 1746'de 3. kez Bosna vali