Il 26 aprile 1798, venne promosso colonnello del nuovo XLVIII reggimento di fanteria. Nella Guerra della Seconda coalizione, il 26 aprile 1799, le sue truppe vennero sconfitte dagli attacchi francesi nel corso della Battaglia di Verona. Nel corso della Battaglia di Magnano del 6 aprile 1799, il suo reggimento fece parte della brigata del generale Ferdinand Minckwitz, nella divisione di Konrad Valentin von Kaim. Mentre conduceva un attacco alla divisione francese del generale Antoine Delmas, Gyulay venne colpito alla testa da una palla di moschetto. Il proiettile venne rimosso a Verona, tramite una delicata operazione di trapanamento del cranio, ma la ferita era grave, per cui costrinse Gyulay a ritirarsi dall'esercito. Il 24 luglio 1800 venne nominato Generale di brigata.