В 1930 году избран в рейхстаг. Наряду с другим депутатом рейхстага, Хансом Киппенбергером, Нейман был лидером партийных отрядов самообороны КПГ () и являлся одним из организаторов террористической акции в отношении двух полицейских на площади Бюловплац 9 августа 1931 года.