Narodil se Nennslingenu v Bavorsku a již v 16 letech nastoupil jako dobrovolník do armády. Zastával funkci vojenského zásobovatele u 2. karabinického pluku, kde sloužil jako rytmistr jeho strýc. Roku 1777 už zastával funkci důstojníka. Po vypuknutí války o bavorské dědictví si ho jako adjutanta podmaršála Kinského vybral do štábu na svém velitelství maršál Lacy. Ten se stal Mackovým mentorem a učitelem vojenské teorie. V době války s Tureckem stál v čele štábu generála kavalerie hraběte Kinského a po povýšení na podplukovníka sloužil pod maršálem Hadikem. Když se místo Lacyho vrchním velitelem stal velmi schopný Ernst Gideon von Laudon, dokázal si Mack díky svým schopnostem, prokázaným při organizaci přechodu vojska přes řeku Sávu, udržet místo v jeho štábu. Osobně vedl průzkum tureckých postavení kolem Bělehradu a účastnil se v říjnu 1789 jeho dobytí po dvouměsíčním obléhání, za což si vysloužil Tereziánský řád a také šlechtický titul svobodného pána. Během 1. koaliční války s revoluční Francií si ho roku 1793 jakožto schopného důstojníka, vzdělaného ve vojenské teorii, vybral princ Koburský za náčelníka štábu rakouské armády v Rakouském Nizozemí, dnešní Belgii. Zde Mack prokázal kromě schopností i osobní statečnost. Kvůli zdravotním problémům se odebral na svůj statek u Jihlavy, kde hodlal nabrat síly. Do služby se vrátil již v roce 1794 jako generálmajor. Byl autorem plánu bitvy u Tourcoingu, která však v květnu 1794 dopadla katastrofálně. Kvůli tomu a také kvůli svému zdravotnímu stavu znovu odstoupil. Roku 1798 byl na přání neapolského krále, jemuž hrozilo nebezpečí ze strany Francie, pověřen reorganizací neapolské armády. Zpočátku se mu dařilo, dokonce vytlačil Francouze z Říma, nakonec však 12. ledna 1799 Neapol padla. V roce 1799 koupil zmodernizovaný barokní zámek ve Vyklanticích. V roce 1802 byl Mack jmenován osobním pobočníkem císaře Františka II. a ujišťoval ho o výborném stavu armády, i když ve skutečnosti na tom byla podstatně hůř.