Leviné deltok i krigstjeneste under andre verdenskrig, til han ble dimittert i 1916. Han meldte seg da inn i USPD. Leviné deltok i januarkampene i Berlin i 1919, og reiste i mars samme år til München der han deltok i grunnleggelse av KPD.