Heimwehr bestod av huvudsakligen av lokala organisationer som bildades i olika delar av landet med mål att bland annat utvisa invandrade jugoslaver och bevara ordning omedelbart efter första världskriget. Det första förbandet och grunden till rörelsen grundades i Tyrolen av den kristligtsociale lantdagsledamoten Richard Steidle år 1920. Till en början fanns ingen nationell ledning eller enhetlig politisk plattform, utan de lokala grenarna reagerade själva mot vad de uppfattade som ideologiska och andra hot mot nationen. Till en början bekämpade man bland annat jugoslaviska, ungerska, tjeckoslovakiska och slovenska trupper i de områden som tillfallit nya statsbildningar efter uppdelningen av Österrike-Ungern. Man förklarade sig bland annat kämpa mot våldsamt försök till författningsändring, skydda liv och egendom och upprätthålla lag och ordning. Efter att ha stängt landets gränser vände man blickarna mot den "militanta marxismen" och utmålade som huvudfiender de österrikiska socialdemokraterna. Dessa bildade år 1923 en egen milis, Republikanischer Schutzbund, som motvikt till Heimwehr. Efter Julirevolten 1927 då 89 demonstranter sköts ihjäl av polis i Wien trädde Heimwehr ute i förbundsländerna fram som borgerlighetens "räddare i nöden" och åren därefter vann man snabbt ökande folkligt stöd.