Schon in jungen Jahren begann Mercy seinen Waffendienst wohl im Heer der Katholischen Liga, womöglich unter dem späteren Herzog Karl IV. von Lothringen, und wechselte in den Anfängen des Dreißigjährigen Kriegs in kaiserliche Dienste. Um 1625 war Mercy Hauptmann im Regiment des Obristen Hannibal von Schauenburg geworden und hatte einen Hof in der Reichsstadt Gengenbach erworben, 1626 wurde er als Kammerherr des Erzherzogs Leopolds V. von Tirol bezeichnet. 1631 kämpfte er als Obristwachtmeister mit Auszeichnung in der Schlacht bei Breitenfeld nahe Leipzig, in der die Kaiserlichen jedoch eine schwere Niederlage erlitten und Mercy selbst verwundet wurde. 1633 war er Obrist eines Regiments in Konstanz, das er erfolgreich gegen Angriffe der Schweden unter Gustaf Horn verteidigte. Für seinen am 6. Oktober 1633 kurz nach dem letzten Sturmangriff der Schweden im Alter von 19 Jahren an seinen Verletzungen gestorbenen Bruder Ludwig ließ Franz von Mercy ein heute noch erhaltenes, kunstvolles Bronzeepitaph im Konstanzer Münster anfertigen.