Karl Gustav entstammt der livländischen Familie von Rosen. Am 12. Dezember 1741 wurde er Kapitän im Regiment „Persode“ und am 3. Juni 1751 Major. Im Siebenjährigen Krieg wurde er 1758 Oberstleutnant, am 3. März 1759 Oberst. 1760 wurde er in der Schlacht bei Landeshut verwundet und von den Österreichern gefangen genommen. Er war in Königgrätz interniert und wurde am Ende des Krieges wieder entlassen. So konnte er sich am 7. April 1763 wieder in Glatz melden und wurde am 23. Mai 1764 Generalmajor sowie Chef des Infanterieregiments „Manteufel“.