Filip Erazm był austriackim generałem i zginął w walce pod Castelnuovo w Lombardii w 1704 roku. Ośmioletni Józef trafił pod opiekę księcia Waltera von Dietrichstein oraz hrabiego Maksymiliana Ulricha von Kaunitz i spędził dzieciństwo w Pradze. Po osiągnięciu pełnoletniości Józef Wacław poszedł za ojcem, wybierając karierę wojskową. Jego arystokratyczne pochodzenie, silny charakter oraz wsparcie przyjaciela ojca księcia Eugeniusza Sabaudzkiego, pozwoliła na szybki rozwój młodego wojskowego. W 1716 rozpoczął swoją drogę jako porucznik (niem. "Leutnant") w pułku dragonów. W 1717 jako kapitan (niem. "Hauptmann") uczestniczył w bitwie pod Petrovaradinem w ramach kampanii Eugeniusza Sabaudzkiego przeciwko Turkom. W 1718 awansował na podpułkownika (niem. "Oberstleutnant"), w 1730 na pułkownika (niem. "Oberst") i ostatecznie w 1734 został generałem majorem. W następnych latach zajmował się głównie dyplomacją. Jako specjalny wysłannik cesarza Karola VI w 1736 udał się na dwór Fryderyka Wilhelma I. W latach 1737-1741 pracował jako ambasador cesarski w Wersalu. Jednak w 1741 znów powrócił do wojska i uczestniczył w wojnie o sukcesję austriacką, po stronie Marii Teresy, która obdarzała go dużym zaufaniem. Został dowódcą armii na Morawach i przywódcą całej austriackiej artylerii w 1744 roku. W 1745 roku został mianowany marszałkiem polnym oraz generalissimusem armii cesarskiej we Włoszech. W tym charakterze dowodził m.in. w zwycięskiej bitwie pod Piacenzą. W 1753 roku został dowódcą armii na Węgrzech. Następnie poprowadził wojska w bitwie pod Kolinem w ramach wojny siedmioletniej.