Willy Leow gikk på folkeskolen i Berlin, og ble utdannet som håndverker ved Arbeiderhøgskolen i den samme byen. Frem til 1916 var han medlem av Sozialdemokratische Partei Deutschlands (SPD). I 1917 var han en av grunnleggerne av Spartakistforbundet, og samme år ble han medlem av Unabhängige Sozialdemokratische Partei Deutschlands.