En 1938, mientras era director técnico de la compañía Rechenmaschinenwerk AUSTRIA Herzstark y Co., perteneciente a su padre, Herzstark ya había terminado el diseño, pero no podía fabricarlo debido a la anexión de Austria a la Alemania nazi. En su lugar, ordenaron a la compañía hacer dispositivos de medición para el ejército alemán. En 1943, quizás influenciado por el hecho de que su padre era un judío liberal, los nazis lo arrestaron por "ayudar a los judíos y elementos subversivos" y "mantener contactos indecentes con mujeres de raza aria" y lo enviaron al campo de concentración de Buchenwald. Sin embargo, los reportes del ejército sobre la producción de precisión de la firma AUSTRIA y especialmente sobre la experticia técnica de Herzstark indujeron a los nazis a tratarlo como "esclavo de inteligencia".