Goltz wurde 1812 kaiserlich-russischer Oberstleutnant und während Napoleons Russlandfeldzug kämpfte er 1812 in den Gefechten bei Wilkawisk, Eckau, Dahlenkirch und Wollgrund. Am 17. Dezember 1813 wurde er zum Oberst ernannt und kam als Kommandeur des 1. Husaren-Regiments in die Russisch-Deutsche Legion. Während des folgenden Vierten Koalitionskrieges kämpfte Goltz im Gefecht an der Göhrde, wo er durch einen Bajonettstich verwundet wurde und den Russischen Orden des Heiligen Georg IV. Klasse erhielt. Goltz erholte sich und kämpfte bei Möllen, Kogel, Seestedt, Hannebeck, dann bei der Blockade von Rendsburg, bei Harburg und Conde. Nach dem Frieden von 1814 wechselte er zurück in preußische Dienste. Dort wurde er am 29. März 1815 zum Kommandeur des 7. Dragoner-Regiments ernannt, bereits am 3. September 1815 wurde er Brigadekommandeur des Armeekorps in Frankreich. Am 11. Juni 1816 nahm Goltz dann vier Monate unbezahlten Urlaub. Er erhielt von französischer Seite das Kommandeurskreuz der Ehrenlegion und am 9. Oktober 1817 die Erlaubnis zum Tragen des Ordens. Am 1. Dezember 1817 wurde er als Kommandeur der 16. Kavallerie-Brigade nach Koblenz versetzt und dort am 19. September 1818 zum Generalmajor befördert. Er starb am 20. Januar 1820 an den Folgen eines Duells mit seinem Divisionskommandeur, dem Generalmajor von Ryssel.