Während des Krieges gegen Frankreich nahm er an der Belagerung von Straßburg und der Schlacht bei Belfort sowie den Gefechten bei Plittersdorf, Les Forges, Étuz, Pasques, Longeau, Villersexel und Saint-Fergeux teil. Ausgezeichnet mit beiden Klassen des Eisernen Kreuzes wurde Hertzberg nach dem Friedensschluss als Kommandeur des I. Bataillons im 3. Badischen Infanterie-Regiment Nr. 111 nach Rastatt versetzt und am 18. Januar 1873 zum Oberstleutnant befördert. Unter Stellung à la suite beauftragte man ihn am 25. Juli 1874 zunächst mit der Führung des 1. Nassauischen Infanterie-Regiments Nr. 87 in Mainz. Am 7. August 1874 erfolgte seine Ernennung zum Regimentskommandeur sowie am 19. September 1874 die Beförderung zum Oberst. Er erhielt am 12. Januar 1875 das Kommandeurskreuz II. Klasse des Orden vom Zähringer Löwen mit Schwertern und am 24. September 1878 den Kronen-Orden II. Klasse. Unter Stellung à la suite seines Regiments wurde Hertzberg am 12. Juni 1880 mit der Führung der 49. Infanterie-Brigade (1. Großherzoglich Hessische) in Darmstadt beauftragt und am 10. Juli 1880 bei gleichzeitiger Beförderung zum Generalmajor zum Kommandeur dieses Großverbandes ernannt. In dieser Stellung wurde er anlässlich des Ordensfestes im Januar 1883 mit dem Roten Adlerorden II. Klasse und durch Großherzog Ludwig IV. am 4. Juli 1883 mit dem Komtur I. Klasse des Großherzoglich Hessischen Philipps-Ordens ausgezeichnet. In Genehmigung seines Abschiedsgesuches wurde er am 16. August 1883 mit Pension zur Disposition gestellt.