Tras el estallido de la Guerra Civil Española, en noviembre de 1936 se incorporó a las Brigadas Internacionales como otros comunistas procedentes de la URSS, siendo inmediatamente nombrado Comandante en Jefe de la XII Brigada Internacional y participando (con su adjunto Alexey Eisner) en la defensa de la capital y en los decisivos combates de la Ciudad Universitaria de Madrid. Debido a sus éxitos, rápidamente creció su popularidad y pronto se le conoció como "General Paul Lukács". A comienzos del verano de 1937 fue enviado al Frente de Aragón al mando de un batiburrillo de unidades (el embrión de la posteriormente denominada "45.ª División Internacional") de las Brigadas Internacionales para intervenir en la planificada "Ofensiva de Huesca", ciudad que se encontraba completamente sitiada desde el comienzo de la guerra. El 11 de junio, mientras realizaba una inspección del frente en su vehículo personal, un obús de artillería le alcanzó y murió en el acto. Fue sustituido en el mando de la división por el General Kléber, otro militar prestigioso de las Brigadas Internacionales.