Carl Ehrensvärd blev kvartermästare vid Hessiska livregementet till häst, blev adjutant där 1731 och kornett 1732. Han deltog med regementet i Polska tronföljdskriget där han deltog i på kejsarens sida i striderna mot Frankrike längs Rhen och Mosel. Han erhöll avsked ur sin hessiska tjänst 1739. Redan 1736 återvände han dock till Sverige där han först blev styckjunkare och senare samma år underlöjtnant vid svenska artilleriet. 1739 följde Ehrensvärd Carl Cronstedt till Finland. Han befordrades 1740 till löjtnant och tjänstgjorde under Hattarnas ryska krig som överadjutant åt Charles Emil Lewenhaupt den äldre 1741-1742. Ehrensvärd befordrades 1741 till kapten och blev 1743 kompanichef. 1747 blev han major och kommendant på Vaxholms fästning och befordrades 1753 till överstelöjtnant och tillförordnad generalfälttygsmästare 1759. Efter ett riksdagsbeslut övertog han chefskapet över artilleriregementet efter sin bror Augustin Ehrensvärd. Han upphöjdes 1764 till friherrligt stånd och befordrades 1769 till generalmajor.