Otto Neumann wurde 1884 im Schloß Osterode in Ostpreußen als Sohn von Louis und Anna Neumann geboren. Sein jüngerer Bruder war der Generalmajor Friedrich Wilhelm Neumann. 1903 begann Neumann ein Jurastudium an der Albertus-Universität Königsberg und wurde Mitglied der Königsberger Burschenschaft Germania. 1909 wurde er Leutnant der Reserve und 1913 Kriegsgerichtsrat. Im Ersten Weltkrieg wurde er mit dem Eisernen Kreuz I. und II. Klasse ausgezeichnet. Nach Ende des Krieges trat er 1918 in die Reichsfinanzverwaltung über. 1922 wurde er von der Schlesischen Friedrich-Wilhelms-Universität über die Actio libera in causa promoviert. Vom 1. Oktober 1936 bis zum 30. September 1942 war er oberster Heeresrichter. 1937 wurde er zum Chef des Heeresjustizwesens und Chef der Heeresrechtsabteilung im Allgemeinen Heeresamt (Ersatzheer) ernannt und am 1. Februar 1938 zum Ministerialdirigenten befördert. Als Chef des Heeresjustizwesens war er „Fachvorgesetzter aller Justizbeamten des Feld- und Ersatzheeres und ihr Dienststrafvorgesetzter“. Neumann ließ kriegsgerichtliche Verfahren gegen Soldaten einleiten, die sich an Ausschreitungen der "Kristallnacht" im November 1938 beteiligt hatten. Ab 1. Oktober 1942 war Neumann zum Reichskriegsgericht abkommandiert, sein Nachfolger als Chef des Heeresjustizwesens wurde Karl Sack. Neumann wurde 1943 Präsident des Ersten Senates des Reichskriegsgerichtes. Nachdem am 1. Mai 1944 die Militärrichter ihren Beamtenstatus verloren und zu „Offizieren im Truppensonderdienst“ erklärt wurden, bekleidete Neumann fortan den Rang eines Generalstabsrichters, bis er, „lästig geworden“, von Wilhelm Keitel, Chef des Oberkommandos der Wehrmacht, wenig später entlassen wurde.