Старший брат генерал-лейтенанта Фрідріха-Вільгельма Нойманна. В 1903-09 роках вивчав право в Кенігсберзькому університеті, після чого вступив у Імперську армію. Учасник Першої світової війни, радник військового суду. Після війни в 1918 році вступив у Імперське фінансове міністерство. В 1922 році здобув ступінь доктора права в університеті Бреслау. З 1 жовтня 1936 року — верховний суддя сухопутних військ, одночасно в 1937 році призначений головою системи армійського права і начальником відділу армійського права Загального управління сухопутних військ (Головнокомандування Вермахту «Резерв»). В 1938 році організував трибунал для солдатів, які брали участь у подіях Кришталевої ночі. З 1 жовтня 1942 року — президент 1-го сенату Імперського військового суду. Після того, як 1 травня 1944 року військові судді втратили свій офіційний статус і стали «офіцерами спеціальної служби», Нойманн не втратив звання, поки, за словами Вільгельма Кейтеля, «не став перешкодою» і не був звільнений у відставку.