Kort etter maktovergivelsen til nasjonalsosialistene dro Heiden i eksil og oppholdt seg for det meste illegalt i Saarområdet (Saargebiet). Fra juni til desember 1933 levde han i Zürich. Der utkom i 1934, på Emil Oprechts forlag, hans annen bok: . I Saarbrücken var Heiden medredaktør av tidsskriftet . For å påvirke folkeavstemningen om Saarlandets tilslutning til Det Tyske Rike skrev han under psevdonymet Klaus Bredow to kampskrifter: , som handlet om Röhm-putschet, og Etter avstemningen den 13. januar 1935 flyktet han til Frankrike og levde til mai 1940 i Paris. Der var han sjefredaktør for det betydelige eksiltidsskriftet , utgitt av Leopold Schwarzschild.