Był synem oficera cesarsko-królewskiej armii. Rodzina planowała dla niego karierę wojskową, lecz plany te pokrzyżował rozpad monarchii austro-węgierskiej. Od lat szkolnych był związany z organizacjami o charakterze nacjonalistycznym i antysemickim. W 1931 roku wstąpił do austriackiej NSDAP, szybko awansując na stanowisko zastępcy gauleitera Karyntii. Po delegalizacji partii zaangażował się w działalność podziemną. W latach 1933–1937 był sześciokrotnie zatrzymywany, m.in. pod zarzutem zdrady stanu i działalności terrorystycznej. Wstąpił do SS, a jej przywódca Heinrich Himmler stał się jego mentorem i protektorem. Po Anschlussie mianowano go gauleiterem Wiednia, jednakże w styczniu 1939 roku został pozbawiony stanowiska z powodu nieudolności i podejrzanych machinacji finansowych.