Nel 1938, l'annessione dell'Austria alla Germania nazista (o Anschluss), obbligò Krips a lasciare il paese. (Krips era stato battezzato nella Chiesa cattolica, ma era stato escluso dalle attività musicali a seguito del fatto che suo padre era nato ebreo). Krips andò a Belgrado, dove lavorò per un anno con la "Belgrade Opera and Philharmonic", finché la Iugoslavia fu anch'essa coinvolta nella seconda guerra mondiale. Per il resto della guerra lavorò in una fabbrica di cibo.