Im Februar 1758 wurde Goltz als Estandartenjunker im Regiment Gensdarmes angestellt und am 18. Oktober 1758 Kornett. Während des Siebenjährigen Krieges wurde er in der Schlacht bei Hochkirch verwundet. Er war bei der Belagerung von Olmütz sowie den Schlachten von Zorndorf, Liegnitz und Torgau, ferner in den Gefechten von Hoyerswerda und Hohengiersdorf. Goltz wurde am 12. Juni 1761 Leutnant und am 25. Oktober 1775 Stabsrittmeister. Er nahm am Bayrischen Erbfolgekrieg teil, wurde am 6. Januar 1779 Rittmeister und Kompaniechef sowie am 24. November 1786 Major, am 11. April 1789 Oberst und wirklicher Offizier des Gensdarmes.