Le baron von Rozen rejoint en 1789 l'armée impériale russe dans le corps d'armée du général Souvorov sous les ordres duquel il se bat en Pologne et en Italie. Il est colonel entre 1806 et 1809, puis général de division, et général-chef de brigade de 1811 à 1812, commandant de la brigade de la Garde impériale à la bataille de la Moskova où, pour récupérer ses soldats blessés, il s'oppose au maréchal Murat à Mojaïsk, ville située à à l'est de Borodino. Actif combattant à la bataille de Lützen et à la bataille de Bautzen, il est nommé général de division, puis combat à Culm. Il est lieutenant-général à la bataille de Leipzig, ainsi qu'en 1814 à la bataille d'Arcis-sur-Aube. Faisant partie des troupes de la sixième coalition, il arrive aux portes de Montmartre. Il se bat farouchement contre Napoléon, lors des campagnes des années 1805-1807, puis bat les Suédois sur le territoire finlandais entre 1808 et 1809. C'est un adversaire redoutable de la Grande Armée des campagnes napoléoniennes de 1812 à 1814. Il participe aussi à l'invasion du Caucase, appelée guerre du Caucase et qui désigne une série d'opérations militaires de l'Empire russe qui aboutissent à l'annexion de la Ciscaucasie.