Allo scoppio della guerra austro-prussiana, Herwarth comandava l'Armata dell'Elba che invase il Regno di Sassonia e la Boemia, risalendo la valle del fiume Elba. Le sue truppe sconfissero gli austriaci presso Hühnerwasser e nella battaglia di Münchengrätz. Durante la decisiva battaglia di Sadowa le sue truppe formavano l'ala destra dello schieramento Prussiano ed Herwarth stesso diresse i combattimenti contro il fianco sinistro austriaco.