Han ska år 1702 ha erbjudits att bli befälhavare för de danska hjälptrupperna i Tysk-romerska kejsarens tjänst under spanska arvföljdskriget, men avböjt. Året därefter antog han däremot tjänsten som nästkommenderande i hjälptrupperna som stred åt kejsaren i Italien under generallöjtnant Adam Frederik Trampe. När han 1704 ankom till kåren hade den förflyttats till Ungern för att delta i kejsarens kamp mot Rákóczys ungerska uppror. Trampe dog samma år av en förkylning under erövringen av ön Schütt och befälet övertogs av generallöjtnant Andreas Harboe. I väntan på dennes ankomst var Gersdorff tillförordnad chef. Vid slaget vid Zsibó den 11 november 1705 förde Gersdorff befäl över de danska dragonerna och kavalleriet på vänsterflygeln och fick en stor del av äran för den dansk-österrikiska segern. De danska ryttarna lyckades driva det ungerska kavalleriet på flykten och därefter lyckades de avsuttna dragonerna storma de ungerska förskansningarna. Harboe dödades 1706 av ett vådaskott från en av sina egna vakter och återigen blev Gersdorff tillförordnad chef. Han skrev därefter till danske kungen Fredrik IV och ansökte om befordran till generallöjtnant och verklig chef för kåren, men då han inte stod näst på tur i den danska befälsordningen (han var inte äldsta generalmajor) och dessutom inte hade några kontakter vid hovet utsågs istället generallöjtnant Frederik Ahlefeldt till befälhavare. Denne ankom inte förrän 1707 och fram till dess förde Gersdorff befälet. Ahlefeldt var dock redan mycket sjuklig och avled redan 1708, varefter Gersdorff slutligen befordrades till generallöjtnant och övertog chefskapet för kåren.