Während des Deutschen Krieges bildete sein Regiment 1866 die Avantgarde im Mainfeldzug. Stoltz nahm an den Gefechten bei Wiesental, Kissingen, Lauffach, Gersheim und der Beschießung von Würzburg teil. Bei Tauberbischofsheim konnte er mit seinen vier Bataillonen während des fünfstündigen Kampfes die wiederholenden Angriffe der württembergischen, später der österreichisch-nassauischen Tuppen, die durch vier gezogene Batterien unterstützt wurden, zurückschlagen. Für diese Tat wurde Stoltz durch seinen kommandierenden Offizier, Generalleutnant von Groeben zum Orden Pour le Mérite eingereicht, der ihm am 20. September 1866 verliehen wurde.