Nel 1794 Mercy d'Argenteau militava nell'ala sinistra dell'esercito austriaco in Italia agli ordini del generale Joseph Nikolaus De Vins. Il 24 marzo venne costretto dal francese Sarret a ritirarsi da Moncenisio. Il 19 settembre 1795 lanciò un attacco contro i francesi vicino Borghetto Santo Spirito, senza riuscire a riportare una vittoria, e il 23 dello stesso mese Andrea Massena lo separò dall'armata piemontese di Colli; ripiegò quindi oltre il fiume Bormida. L'11 maggio 1796 divenne Cavaliere dell'Ordine militare di Maria Teresa. Poco prima, il 4 marzo, era stato promosso "Feldmarschallleutnant". Sempre nel 1796 era comandante di divisione in Italia agli ordini di Jean-Pierre de Beaulieu, avendo invece alle proprie dipendenze le brigate di Lipthay, Rukavina, Pittoni e Sullich. Combatté a Voltri il 10 aprile, ma venne sconfitto da Napoleone Bonaparte a Montenotte nei successivi due giorni. A causa di un ordine confuso pervenuto dallo staff di Beaulieu, Argenteau subì pesanti perdite nella seconda battaglia di Dego del 14 aprile.