Mercy trat 1682 als Freiwilliger in die kaiserliche Armee ein, erwarb sich in der Schlacht am Kahlenberg (Entsatz von Wien, 1683) ein Offizierspatent (Leutnant) und kämpfte in den anschließenden Feldzügen in Ungarn (1684–1690) gegen die Türken mit Auszeichnung. Den Spanischen Erbfolgekrieg machte er vom Beginn bis zum Rastatter Friede 1714 mit. So kämpfte er 1701 als Oberstleutnant in Italien und schlug bei Borgoforte (Provinz Mantua) mit 300 Reitern sechs feindliche Eskadrons zurück, geriet mehrere Male in Gefangenschaft, kam aber im Zuge von Gefangenenaustausch immer wieder frei.