El 22 de septiembre de 1936 se hizo cargo de la jefatura del "Bureau Technique" de la Organización Central de las Brigadas Internacionales (Comité de París), situado en el 128 "Rue de Lafayette" (París). Por esta época ya aparece con el nombre de "Walter", que durante la contienda española se convertiría en su nombre de guerra. Conocido como profesor de la Escuela Militar de Moscú que ostentaba el grado de Coronel. El 24 de octubre asume la Jefatura de la XIV Brigada Internacional en Albacete, durante los comienzos de la Guerra Civil Española, unidad con la que entró en combate en Lopera y en las fracasadas ofensivas de Segovia y Huesca, alcanzando rápidamente una gran popularidad y reputación, tanto en las Brigadas Internacionales como en el Ejército Popular de la República. Pronto se convierte en un reputado comandante y alcanza la dirección de la 35.ª División Internacional, participando en la toma de Belchite, en la sangrienta batalla de Teruel y en la retirada de Aragón, donde tiene una destacada participación en la Batalla de Alcañiz. En la defensa de la localidad aragonesa frente a las tropas franquistas estuvo a punto de caer prisionero.