La guerra scoppiò nel settembre del 1939 e per la maggior parte dei parigini ci furono pochi cambiamenti nell'immediato. Non fu così tuttavia per le diverse migliaia di rifugiati politici tedeschi che avevano cercato rifugio dalla persecuzione trasferendosi a Parigi. Leo Bauer fu arrestato nel settembre del 1939 e detenuto in una serie di campi di internamento fino all'armistizio franco-tedesco del giugno 1940. Nel luglio riuscì a fuggire in Svizzera con il suo compagno di partito Paul Bertz. In Svizzera visse illegalmente sotto falsa identità come impiegato di banca a Ginevra con il nome di "Paul-Eric Perret". Divenne informatore del Partito comunista nella Svizzera occidentale e prese parte a "lavori di frontiera" che coinvolsero il confine franco-svizzero.