Jako voják se zúčastnil tažení proti Turkům a již v roce 1737 byl povýšen do hodnosti generálního polního vachtmistra, respektive generálmajora. Na počátku vlády Marie Terezie byl jmenován polním maršálem (1740) a zúčastnil se války o rakouské dědictví. V roce 1742 převzal vrchní velení v Čechách, ale téhož roku byl poražen Fridrichem II. v bitvě u Chotusic. Úspěšnější byl v letech 1742–1743 proti bavorské a francouzské armádě, pronikl do Bavorska a v roce 1744 obsadil Alsasko. K plánované velké bitvě s Francouzi nedošlo, protože byl povolán zpět do Čech, znovu ohrožovaných pruskou armádou. V roce 1745 byl dvakrát poražen Fridrichem II. v bitvách u Hohenfriedbergu a Žďáru, téhož roku kvůli pozdnímu příchodu nemohl zasáhnout do další prohrané bitvy u Kesselsdorfu. Mezitím byl v roce 1744 jmenován místodržitelem v Rakouském Nizozemí a přestěhoval se do Bruselu. Rakouské Nizozemí však během roku 1745 obsadil Mořic Saský, který Karla Alexandra v roce 1746 porazil v bitvě u Rocoux. Karel Alexandr poté pobýval ve Vídni a podílel se na reformách rakouské armády, do Bruselu se vrátil až v roce 1749. Od roku 1746 byl generálem-polním maršálem ("General-Feldmarschall") Svaté říše římské.