Neumann wurde aus dem Kadettenkorps kommend am 18. August 1836 als Sekondeleutnant dem 2. Garde-Regiment zu Fuß der Preußischen Armee überwiesen. Im weiteren Verlauf seiner Militärkarriere war er als Oberstleutnant vom 30. Oktober 1866 bis 6. Juli 1868 Kommandeur des Füsilier-Regiments Nr. 38. Zwischenzeitlich am 31. Dezember 1866 mit Patent vom 30. Oktober 1866 zum Oberst befördert, wurde Neumann anschließend zum Kommandeur des 4. Garde-Regiments zu Fuß ernannt. Dieses Regiment führte er zu Beginn des Deutsch-Französischen Krieges 1870/71. In der Schlacht bei Gravelotte wurde Neumann schwer verwundet. Nach seiner Gesundung nahm er noch an der Belagerung von Paris teil.