Hüseyin Paşa'nın büyük hizmetlerinden birisi de Silistre Kuşatması esnasındadır. Ruslar 18 Mayıs 1854'te Silistre'yi şiddetle muhasara ettiler. Hüseyin Paşa hem muavin bulunuyor hem de Silistre'nin en mühim istihkâmı olan Arap tabyası muhafazasını müdafaa ediyordu. Bütün asker ve kumandanlar Hüseyin Paşa'nın harekâtına îtimat ediyordu. Muhafız Musa Paşa da Hüseyin Paşa'ya riayet etmekteydi. 1854 Mayısı'nın otuzuncu günü şafak vakti Arap tabyası önünde büyük bir lağım ateşleyerek hücuma geçen Ruslar, Hüseyin Paşa, Mısırlı Miralay Mustafa Bey, Kaymakam İbrahim Bey ve Mehmet Beyler'in gayretleriyle püskürtüldü. Bu harpte iki tarafın askerleri süngü süngüye gelmiş ve sayıca üstün olan düşman püskürtülmüştür.