באוקטובר 1928, נרצח המנהיג הקרואטי סטייפאן ראדיץ' בסקופשטינה בידי פוליטיקאי רדיקלי סרבי, פונישה ראצ'יץ'. כתגובה לרצח ייסד ברנימיר יליץ' באוניברסיטת זאגרב קבוצת נוער בשם תנועת הנוער הקרואטי. שנה מאוחר יותר, הוזמן אנטה פאבליץ' בידי יליץ' בן ה-21 להצטרף לארגון כחבר צעיר, אירוע שמאוחר יותר ייחשב למאורע היסטורי בעל חשיבות רבה. תנועה נוספת דומובראנסקי פוקרט ("Domobranski Pokret"), (מה שהיה שמו של הצבא הקרואטי החוקי באוסטרו-הונגריה), החלה לפרסם את Hrvatski Domobran - עיתון אפונימי המוקדש לענייני האומה הקרואטית. ההתארגנות סביב העיתון "דומובראן" ניצל את הזעם שהקרואטים חשו בעקבות רציחתו של הפוליטיקאי הבולט ביותר בפרלמנט המדינה, על מנת להניע ולהקצין את האווירה המתוחה שכבר הייתה עוד לפני כן בקרואטיה. ב-1929 נוצרו בקרואטיה שני זרמים פוליטיים שסועים, כאשר פאבליץ' ונוספים אשר תמכו בנקיטה באלימות על מנת לתקן את המצב הפוליטי במדינה.
מספר חברים במפלגת הימין הקרואטית תרמו לכתיבת העיתון, עד תקופת חג המולד ב-1928 בה העיתון נאסר לפרסום בידי הרשויות הממלכתיות של יוגוסלביה. בינואר 1929, המלך החרים את כל התנועות הלאומיות, ואנשי מפלגת הימין הרדיקלית הוגלו, בהם אנטה פאבליץ', גוסטאב פרצ'ץ ובראנימיר יליץ'. לקבוצה הזו הצטרפו מאוחר יותר גולים קרואטים נוספים.
ב-20 באפריל 1929, פאבליץ' ואחרים חתמו במשותף על הצהרה בסופיה, בולגריה ביחד עם חברים מהועד המקדוני הלאומי, בה הכריזו שהם הולכים לרדוף אחר "זכותם החוקית לפעילות למען כינון חוקה הדוגלת בזכויות אדם ולאום, חופש פוליטי ועצמאות מלאה בקרואטיה ומקדוניה." בעקבות זאת, בית המשפט לשימור המדינה בבלגרד שפט את פאבליץ' ופרצ'ץ למוות ב-17 ביולי 1929.
הגולים ארגנו תמיכה במטרתם אצל הקרואטים בגולה שבאירופה, דרום אמריקה ובצפון אמריקה. הם זכו לתמיכה רחבה בעיקר בבלגיה, ארגנטינה ובפנסילבניה. בינואר 1932, הם הכריזו שם לארגונם המחתרתי "האוסטאשה".
ב-1932, כמה חברי אוסטאשה ברשות אנדריה ארטוקוביץ' ניסו לגרום להתקוממות באזור ליקה-ולביט, וכשלו. הם ברחו לצפון איטליה, שם הקימו מחנה אימונים על יד ברשה.
שם הארגון לקוח מן הפועל "אוסטאטי" ("ustati") שמשמעו "לעלות". לשם זה לא היו קישורים פאשיסטיים בשנים הראשונות בממלכת יוגוסלביה, התואר "אוסטאש" היה בשימוש בהרצגובינה על מנת לציין את המורדים הסרבים האורתודוקסים מהמרד ההרצגוביני של 1875.
בשנת 1933 התנקש פאבליץ' בחייו של פרצ'ץ. בעקבות קישורם המוקדם יותר ללאומנים המקדונים, האוסטאשה הואשמו בקשירת קשר לרצח אלכסנדר הראשון, מלך יוגוסלביה בשנת 1934, וכך הורשע אאוגן קווטרניק בתכנון ההתנקשות המוצלחת, שנעשתה בידי כמה חברים בארגון המקדוני המחתרתי אימרו (IMRO). מידת ההשתתפות של האוסטאשה ברצח לא ידועה. ידוע רק שהרצח נעשה בידי מקדוני בשם ולדה ג'יאורג'ייף, ולא בידי חברי האוסטאשה, על אף שהארגון סייע בארגון הרצח.
זמן קצר לאחר הרצח, כל הארגונים אשר היו מקושרים לאוסטאשה, כולל ה-"Hrvatski Domobran", שהיה ארגון אזרחי, הוחרמו ברחבי אירופה. פאבליץ' וקבאטרניק נכלאו באיטליה באוקטובר 1934 עד מרץ 1936. לאחר מרץ 1937, בתקופה שאיטליה ויוגוסלביה חתמו על הסכם שלום, מרבית חברי האוסטאשה הוסגרו ליוגוסלביה.
למרות זאת, ההסגרות לא חיסלו את הארגון, להפך, הן הקנו אליו יותר סימפתיה בקרב הנוער הקרואטי, ובעיקר אצל סטודנטים. בפברואר 1939, שני נלהבי האוסטאשה מילה בודאק ואיבן אורשאניץ', היו לעורכי מגזין חדש, "Hrvatski narod" ("העם הקרואטי"), שתמך ברעיונות האוסטאשה ובעצמאות קרואטית.
מלחמת העולם השנייה.
מדינות הציר פלשו ליוגוסלביה ב-6 באפריל 1941. ולדקו מאצ'ק, מנהיג מפלגת האיכרים הקרואטית (HSS), שהייתה המפלגה החזקה ביותר בקרואטיה באותה התקופה, דחה את הצעת גרמניה הנאצית להוביל את הממשלה החדשה. האוסטאשה קפצו על ההזדמנות ובסיוע הצבאות הזרים הקימו את המשטר החדש בקרואטיה ב-14 באפריל 1941.
מאות מחברי הארגון הסתננו למדינה דרך איטליה, ומנהיגם סלאבקו קווטרניק הקים ממשלה בזאגרב והכריז על ייסודה של מדינת קרואטיה העצמאית. שם המשטר החדש במדינה הבהיר בבירור את הניסיון המוצלח בהפיכת קרואטיה למדינה קרואטית לאומית-לאומנית.
ולאדקו מאצ'ק קרא לעם להתנגד לשיתוף פעולה עם הממשל החדש באותו היום. אנטה פאבליץ' הגיע ב-20 באפריל 1941, והפך ל"פוגלבניק" (מנהיג בקרואטית) של קרואטיה החדשה שבמהרה כללה את מרבית שטחי קרואטיה המודרנית, בוסניה והרצגובינה וחלקים מסרביה (מחוזות סירמיה וסאנדז'אק). משום שלאוסטאשה לא היו צבא ומשטר יציבים לשליטה הכרחית בטריטוריות שלו, גרמניה ואיטליה חילקו את שטחי קרואטיה לשני אזורי השפעה, אחד דרום-מערבי תחת חסות איטלקית, והשאר בצפון-מזרח קרואטיה תחת חסות גרמנית.
מעשי הזוועה כנגד האוכלוסייה הלא-קרואטית במדינה החדשה החלו ב-27 באפריל 1941, כאשר יחידה חדשה בצבא האוסטאשה עוללה רצח המוני באוכלוסייה הסרבית הגדולה שבשטחים המיושבים בגודובאץ (על יד ביילובאר).
עם הזמן, כל מתנגדי השלטון וכל מי שאיים עליו בדרך כלשהי הוצא מחוץ לחוק. מפלגת האיכרים הקרואטית הוחרמה ב-11 ביוני 1941, בניסיון של האוסטאשה להפוך לייצוג השלטוני העיקרי של האיכרים והפועלים בקרואטיה. ולאדקו מאצ'ק נשלח למחנה הריכוז ביאסנובאץ, אבל עקב הפופולריות שלו, שוחרר בהמשך למעצר בית מאצ'ק נקרא בשלב מאוחר יותר בידי הזרים לייצגם ולהתנגד לממשלת פאבליץ', אך הוא סירב לבקשתם.
פאבליץ' פגש לראשונה את אדולף היטלר ב-6 ביוני 1941. מילה בודאק, שכיהן אז כשר בממשלתו של פאבליץ', הכריז בפומבי על האלימות הגזענית, כחלק ממדיניות המשטר ב-22 ביוני 1941. וייקוסלאב "מקס" לובוריץ', אחד ממפקדי הארגונים של המשטרה החשאית בקרואטיה, החל בבניית מחנות ריכוז בקיץ של אותה השנה.
כנופיות האוסטאשה החריבו כפרים מסביב לאלפים הדינרים. ב-1942, גנרל אדמונד גלאס פון הורסטנאו כתב מספר דיווחים למפקדיו בוורמאכט, בהם הביע את חרדתו לאור מעשי הזוועה שמחוללים האוסטאשה. הדיווחים שלו אומתו בידי דיווחיו של פילדמרשל וילהלם ליסט.
האיטלקים החלו גם להביע את חוסר רצונם לשתף פעולה עם האוסטאשה, והצבא האיטלקי החל לשתף פעולה עם הצ'טניקים בחלקי השליטה הדרומיים שלהם. אף על פי שהיטלר התעקש שמוסוליני ישלח את כוחותיו לעבוד עם האוסטאשה, הגנרל האיטלקי מריו רואטה, ורבים כמוהו בשטח, סירבו לפעול על פי הוראות אלו.
לקראת סוף שנת 1942, השמועות לגבי מעשי הזוועה שחוללו האוסטאשה ביאסנובאץ ובסביבה, הופצו גם בקרב הציבור הקרואטי. סופרים מפורסמים, כמו ולדימיר נאזור ואיבן גוראן קובאצ'יץ', ברחו משטחי השליטה של האוסטאשה, והצטרפו לפרטיזנים, ואחריהם הצטרפו רבים אחרים.
הצבא הרגיל של קרואטיה, המשמר הביתי (Domobrani), הורכב ממספר גדול של אנשים שבקושי היו מוכנים ללחימה ולא השתתפו במעשי הזוועה. חברי מפלגת האוסטאשה היו חלק מיחידות צבאיות למחצה שהשתתפו בפשעים. פאבליץ' טען שלמעלה מ-30,000 אנשים הצטרפו למפלגה באותה התקופה, אף על פי שדיווחים נייטרליים יותר טוענים שמדובר במחצית מהמספר הזה.
בשנת 1943 ספגו הגרמנים אבדות קשות בחזית המזרחית, וכוחות איטלקיים רבים החלו לערוק, והשאירו מאחוריהם כמויות עצומות של תחמושת, שסייעו למורדים ללחום נגד האוסטאשה. הפרטיזנים הפכו במהרה לכוח המורד העיקרי בכל רחבי יוגוסלביה, והחלו לגייס אליהם אפילו עריקים דומבורנים וצ'טניקים. הם קיבלו סיוע רב מבעלות הברית באמצעות הצנחות אוויריות של ציוד.
לאחר המלחמה.
בסופו של דבר הצבא האדום והפרטיזנים שחררו את יוגוסלביה, והאוסטאשה הובסו. הם המשיכו ללחום במשך זמן קצר אחרי כניעת גרמניה ב-9 במאי 1945, אבל במהרה הוכנעו גם הם.
מספר רב של חברי האוסטאשה וגם מספר חיילים דומבורנים, כמו גם אזרחים רבים, ניסו להימלט לעבר אוסטריה ואיטליה בסופו של אותו החודש, אבל הם הוסגרו לרשויות בידי הפרטיזנים בגבול האוסטרי, חלקם הוצאו להורג במקום, ואחרים נשלחו בצעדת מוות בחזרה למדינה, אירוע שנודע כטבח בלייבורג. פאבליץ' הצליח להימלט, והסתתר באוסטריה ורומא לזמן מה, בסיועם של עמיתיו הפרנציסקנים, ולבסוף נמלט לארגנטינה.
לאחר מלחמת העולם השנייה, שאריות האוסטאשה ירדו למחתרת או שברחו למדינות זרות, כמו קנדה, אוסטרליה, גרמניה ודרום אמריקה, באמצעות עזרתן של הכנסיות הקתוליות באזורים הללו וגם בעזרתם של ארגוני פשוטי העם אשר לא התנגדו לשלטון החדש.
חלק מהם התמידו והמשיכו במסע הצלב שלהם כנגד יוגוסלביה: האוסטאשה נטלו חלק בלמעלה מ-24 פעולות טרור בתקופה שלאחר המלחמה, שכללו פיגועים בארצות הברית. מרבית פעולותיהם לא היו מוצלחות בעקבות מחסור חמור בתמיכה עממית בפעולות ובעקבות רדיפתם בידי סוכנויות הביון היוגוסלביות (UDBA/KOS), שסוכניהן התנקשו באנטה פאבליץ' בבואנוס איירס, ופצעו אותו פצעי מוות.