Mark bodde i Wien for i en periode før han og familien flyktet via det nøytrale Sveits, etter nazistenes annektering av Østerrike. Frem til Tysklands okkupasjon bodde familien i Frankrike, da de flyttet til London hvor de bodde under slaget om Storbritannia og den tyske bombingen av London. Hans Marks far, Herman Francis Mark, arbeidet som kjemiker og fikk seg jobb i Canada, og deretter flyttet hele familien til Toronto, der de bodde for en kortere periode. Kort tid senere flyttet familien videre til USA i 1940.