Lorsqu'éclate la guerre austro-prussienne, von Roon est promu général d'infanterie. Il prend part à la victoire décisive de Sadowa, sous les ordres de von Moltke, est décoré de l'Aigle noir à l'issue de la bataille de Nikolsburg qui ouvre la route de Vienne. À la suite de ce conflit, son système est adopté par tous les autres pays de la Confédération de l'Allemagne du Nord, et fera école dans tous les pays d'Europe dans les années 1870.