Bei der Mobilmachung anlässlich des Krieges gegen Frankreich wurde Hertzberg am 18. Juli 1870 Oberquartiermeister im Oberkommando der 2. Armee unter Prinz Friedrich Karl von Preußen. Für die weitere Dauer des mobilen Verhältnisses hatte er am 16. Dezember 1870 das Kommando über das 6. Rheinische Infanterie-Regiment Nr. 68 erhalten und fungierte vom 27. Dezember 1870 bis zum 15. März 1871 als Führer der 32. Infanterie-Brigade. Hertzberg nahm an den Schlachten bei Vionville, Gravelotte, Orleans, Bapaume, Beaugency, Saint-Quentin sowie der Belagerung von Metz und der Einschließung von Péronne teil. Für sein Wirken wurde er mit beiden Klassen des Eisernen Kreuzes, dem Ehrenkomtur des Oldenburgischen Haus- und Verdienstordens des Herzogs Peter Friedrich Ludwig sowie dem Kommandeurkreuz I. Klasse des Großherzoglich Hessischen Ludwigsordens ausgezeichnet.