Al final dels anys trenta va traslladar-se a Viena a dirigir l'orquestra de la Wiener Staatsoper, ignorant la política nazi de què els artistes alemanys no treballaren a Àustria. Simultàniament va esdevenir un dels artistes emergents del Festival de Salzburg. Knappertsbusch va continuar dirigint a Viena i Salzburg durant l'annexió alemanya d'Àustria. El 1944, a la fi de la segona guerra mundial va ser llistat a la Gottbegnadeten-Liste, una llista d'un miler d'artistes considerats com a irreemplaçables que eren exempts de serveis al front per a protegir l'herència cultural alemanya. Quan la segona guerra mundial va acabar, va tornar a Munic, però va continuar dirigint com a director invitat a Viena, així com fent aparicions en el Festival de Bayreuth. Rarament va participar en gires fora dels països de parla alemanya. Li disgustaven els assajos llargs i va ser acusat en alguna ocasió de ser mandrós.