Nach dem Ende der Herrschaft Maximilians kehrte Rosenzweig nach Österreich zurück, wo er wieder im österreichischen Heer diente. Am 3. Juni 1865 wurde er zum Generalmajor und am 30. April 1870 zum Feldmarschallleutnant befördert. Im Deutschen Krieg 1866 führte er eine Brigade im VI. Korps unter General Ramming und nahm am 27. Juni an der Schlacht bei Nachod und am 3. Juli an der Schlacht von Königgrätz teil. Am 14. April 1879 mit Wirkung zum 1. Mai wurde er schließlich von Franz I. "mit Titel und Charakter" in das Amt eines Feldzeugmeisters befördert.