Maailmansotien välisenä aikana Itävalta oli yksi jalkapallon mahtimaista. Rapid oli tuolloin yksi Euroopan parhaista joukkueista. Kun Itävalta liitettiin Saksaan vuonna 1938, Rapid siirtyi pelaamaan Saksan sarjoihin. Tuona aikana Rapid voitti Saksan cupin (1938) ja liigan (1941).