W 1934 roku została uchwalona ustawa o małych i wielkich wersjach herbów. Małym herbem ustanowiono biały krzyż na czerwonej tarczy, natomiast wielkim herbem ustanowiono wizerunek sprzed 1925 roku. W 1938 roku zlikwidowano małą wersję herbu. Po Anschlussie Austrii zamieniono koronę Fryderyka III na koronę Rzeszy.