Neumann nasceu em Katowice, à época, parte da Prússia. Como estudante, Neumann apoiou a Revolução Alemã de 1918 e filiou-se ao Partido Social-Democrata da Alemanha (SPD). Neumann ajudou a organizar a Sociedade de Estudantes Socialistas em Frankfurt am Main, onde encontrou, em 1918, Leo Löwenthal, um futuro colega no Instituto para Pesquisa Social em Nova Iorque. Em Breslávia, Leipzig, Rostock, e Frankfurt am Main, Neumann estudou direito e formou-se doutor em 1923 com uma tese sobre o método na teoria da punição. Ele trabalhou entre 1925 e 1927 como assistente de Hugo Sinzheimer, o principal teórico reformista do direito do trabalho, que lhe arranjou um emprego de professor na escola sindical afiliada à Universidade de Frankfurt. Durante a República de Weimar, Neumann engajou-se politicamente com a ala trabalhista do Partido Social-Democrata. Entre 1928 e 1933, ele trabalhou em Berlim, em associação com Ernst Fraenkel, como advogado trabalhista, defendendo sindicatos e publicando artigos bem como um livro técnico nessa área. Em 1932–1933, ele também se tornou o principal advogado do Partido Social-Democrata e até publicou um artigo, censurado pelos nazistas, contra a cassação do principal periódico Social-Democrata.