Karl Magnus war der zweite Sohn aus erster Ehe von Markgraf Friedrich V. von Baden mit Barbara von Württemberg (* 4. Dezember 1593; † 8. Mai 1627), der Tochter des Herzogs Friedrich I. von Württemberg. 1635 ging er mit seinem älteren Bruder, Friedrich VI. auf Reisen und hielt sich auch eine Weile am französischen Hof auf. 1638 waren beide beim Heer des Herzogs Bernhard von Sachsen-Weimar und 1640 trat er in das schwedische Heer ein, wo er bei seinem Schwager Johan Banér diente und alsbald Regimentskommandeur wurde. 1641 geriet er bei Cham in Gefangenschaft. Nach seiner Freilassung 1642 ging er wieder zur schwedischen Armee und war bei der für die Schweden siegreichen Schlacht bei Jankau als Oberst beteiligt. Er nahm auch am weiteren Feldzug der schwedischen Feldmarschalls Lennart Torstensson und Carl Gustav Wrangel teil. Nach dem Westfälischen Frieden kehrte Karl Magnus nach Baden zurück. 1655 wurde er vom schwedischen König wieder für den Zweiten Nordischen Krieg berufen und zum Generalleutnant ernannt. Er nahm an der Schlacht bei Warschau teil. Zu Beginn des Jahres 1658 zog er mit dem schwedischen König Karl X. Gustav in den Krieg gegen Dänemark. Im Juli 1658 kehrte Karl Magnus krankheitshalber nach Baden zurück und verstarb schon im November dieses Jahres. Er wurde in der Stiftskirche in Pforzheim bestattet.