Am 7. Februar 1933 nahm Neubauer an der vom ZK einberufenen Tagung der Politischen Sekretäre, ZK-Instrukteure und Abteilungsleiter der KPD im Sporthaus Ziegenhals bei Berlin teil. Im März 1933 ging er in den Untergrund, wurde aber am 3. August verhaftet. Nach schweren Misshandlungen im Zuchthaus Brandenburg wurde er in den Konzentrationslagern Lichtenburg und Buchenwald gefangen gehalten. In beiden Konzentrationslagern gehörte er der Leitung der illegalen KPD-Lagerorganisation an. Neubauers KZ-Haft als „Schutzhäftling“ war unterbrochen von einer sechsmonatigen Strafhaft im Gefängnis Plötzensee wegen Passvergehens und Urkundenfälschung. Im Oktober 1933 wurde er beim Reichstagsbrandprozess als Zeuge aufgeboten; trotz Folterung unterstützte er die Aussagen des Angeklagten Georgi Dimitrow.