V roce 1857 byl po rezignaci Josefa Radeckého Gyulay jmenován vrchním velitelem v Lombardii se sídlem v Miláně. Na začátku roku 1859 zahájily Sardinie a Piemont společně s Francií mobilizaci své armády, pravděpodobně v rámci přípravy na invazi na italská území ovládaná Rakouskem. Dne 23. dubna vydalo Rakousko ultimátum pro Sardinii a požadovalo demobilizaci. Když Sardinci odmítli, začala druhá italská válka za nezávislost. Jako velitel rakouských sil v severní Itálii dostal hrabě Gyulay rozkaz překročit 29. dubna řeku Ticino, hranici mezi rakouským a sardinským územím. V reakci na to byly francouzské síly pod vedením Patrice MacMahona vyslány na obranu svých sardinských spojenců. Dne 20. května byly rakouské síly pod hrabětem Stadionem poraženy v bitvě u Montebella, poté se Gyulay stáhl zpět na rakouské území. Později utrpěl další porážku v bitvě u Palestra. Francouzská armáda poté překročila Ticino na rakouské území a po malé bitvě dobyla vesnici Boffalora sopra Ticino. Nakonec se 5. června setkaly hlavní rakouské a francouzské armády v bitvě u Magenty. Rakušané vedeni Gyulayem byli poraženi, což vedlo k jeho odvolání do Vídně. Císař František Josef I. převzal osobní velení rakouské armády v Lombardii-Benátsku a následnou bitvu u Solferina prohrál. V jednom ze svých posledních vojenských střetnutí byl Gyulay poslán na obranu Mantovy před piemontskou invazí. V tomto úkolu neuspěl, města se vzdala v roce 1866, což nakonec vedlo k jeho připojení k nově vytvořené Itálii.