Nel 1938 l'Austria viene annessa alla Germania, e le squadre austriache militano nella Gauliga Ostmark; qui "i Violetti" realizzano la vittoria più larga in assoluto nel campionato austriaco, un 21-0 contro il . A parte questo, però, l'Austria Vienna non ottiene grandi risultati in questo periodo, che è anche molto triste: molti dei dirigenti e dei giocatori con origini ebree devono fuggire o vengono uccisi dal regime di Hitler. Lo stesso Sindelar muore in circostanze non chiare il 23 gennaio 1939 all'interno dell'appartamento che condivide con la sua compagna italiana, ufficialmente a causa di un avvelenamento da monossido di carbonio. Oltre al fatto che Sindelar convivesse con un'ebrea, l'episodio avvenuto durante la gara di scioglimento della Nazionale austriaca dopo l'Anschluss, un balletto successivo alla marcatura al posto del saluto nazista alla tribuna insieme al suo compagno ed amico Karl Sesta costituiva una forma di opposizione pubblica e visibile, di cui tutti, ancor oggi, parlano a Vienna. Tuttavia il club ottiene in questo periodo una vittoria molto più importante: riesce a mantenere il nome "Austria" nonostante i tentativi delle autorità sportive naziste di rinominare la società. Solo per un breve periodo nel 1938 la squadra assume la denominazione di Sportclub Ostmark.