Nur ein Jahr später brach der Spanische Erbfolgekrieg aus, in dem eine von Frankreich angeführte Koalition gegen eine britisch-niederländisch-habsburgische Allianz stand. Dänemark unterstützte das letztere Bündnis, und Carl Rudolf erhielt den Oberbefehl über die 12.000 Mann, die zur Unterstützung der Niederlande entsandt wurden. Für seine Aktionen im Jahr 1702 erhielt er die höchste dänische Auszeichnung, den Elefanten-Orden. 1704 nahm er mit seinem dänischen Korps an der Schlacht von Höchstädt teil. Bei Ramillies 1706 und Malplaquet 1709 zeichnete er sich aus und trug mitentscheidend zu den beiden Siegen bei. Am Ende des Kriegs wurde er zum kommandierenden General der gesamten dänischen Armee ernannt.