לאחר זמן קצר החלו להתפרסם באוסטריה חוקי גזע דומים לאלו בגרמניה הנאצית. החוק הראשון נקרא "נומרוס קלאוזוס" והוא הגביל את מספר הסטודנטים היהודיים הרשאים ללמוד באוניברסיטה (עד סילוק כולם ב-8 בדצמבר). באפריל החלו במלאכת הפרדת בתי הספר היסודיים והתיכוניים, כל היהודים רוכזו ל-8 בתי ספר, אשר נסגרו בסוף שנת הלימודים 1939. ב-20 במאי קיבלו חוקי נירנברג תוקף גם באוסטריה ו-34,500 אנשים שעד אז לא נחשבו ליהודים לפי הקהילה, הוגדרו כ"יהודים לפי גזעם". מה-2 ביולי נאסר על היהודים להיכנס לפארקים ציבוריים ובסוף ספטמבר נאסר על עורכי דין ורופאים יהודיים לטפל בלא-יהודים.
רדיפות.
בעוד שבגרמניה התפתחה אפליית היהודים באופן איטי ולא גרמה לשלהוב יצרים בקרב הציבור, באוסטריה גררה הקצנת המדיניות הפתאומית כלפי יהודים גם אלימות והתעללויות רבות ביהודי המדינה. בנוסף למעשי השוד והמאסרים השרירותיים, התקיימו בווינה אירועי השפלה רבים שכונו "חגיגות קרצוף רחובות". באירועים אלו הוכרחו יהודי העיר לקרצף בתמיסת חיטוי חמה את סיסמאות התמיכה באוסטריה החופשית שנצבעו בצבעי שמן ברחובות ובבניינים. אוסטרים רבים מכל הגילאים השתתפו כצופים באירועים אלו. ליאו לאוטרבך, מנהל מחלקת הארגון של ההסתדרות הציונית העולמית, הגיע באפריל 1938 לווינה לבדוק את מצב העיר לאחר האנשלוס כנציגה של ההסתדרות, וכך תיאר את האווירה בעיר:
בנוסף פעלו הנאצים לפגוע ברגשות הדתיים של היהודים שומרי תורה ומצוות. הם חויבו רבות לחלל שבת, לחלקם גולחו בכפייה שערות הזקן והפאות וכן נחטפו כיסויי ראש מראשן של נשים. כל הפעולות הללו לוו בעלבונות ולגלוג על אורח החיים הדתי של יהודי אוסטריה.
אמצעי נוסף שהטיל אימה ביהודי אוסטריה וגרם להם לרצות לעזוב את המדינה היה השילוח למחנות הריכוז והשהות שם. האסירים הראשונים נשלחו למחנה הריכוז דכאו ובהמשך למספר מחנות ובעיקר למאוטהאוזן. במאי 1938 נערכה פשיטה בהיקף נרחב שכונתה "מבצע היהודים" והגיעה מהדרגים הגבוהים של האס אס. בצו של הגסטפו נכתב "ניתנה ההוראה שיהודים בלתי רצויים, שהורשעו בעבר, ייעצרו ללא דיחוי ויועברו למחנה הריכוז דכאו". במזכר סודי של האס דה קבע אייכמן שיש לעצור 5,000 יהודים מרחבי המדינה. חלק משמות העצורים כבר הופיע ברשימות קודמות של דרישות למעצר אך רובם של העצורים נחטפו באקראי מהרחוב. האסירים עברו התעללות פיזית ונפשית קשה במחנות וחזרו לאחר מספר שבועות או חודשים לביתם. הפחד ממעצר וסיפורי השבים מהמחנות גרמו לרבים מיהודי המדינה לרצות להגר למקומות אחרים, על אף שהדבר כלל ויתור על נכסים כלכליים ובריחה בחוסר כל. ההיסטוריון שאול פרידלנדר סיכם כי: "הרדיפות באוסטריה, ובמיוחד בווינה, עלו על הרדיפות ברייך. ההשפלה הפומבית הייתה בוטה וסדיסטית יותר, הפקעת הרכוש מאורגנת יותר, ההגירה הכפויה מהירה יותר".
הגירה.
המדיניות הנאצית באותה התקופה דגלה בעידוד הגירה של יהודים ואף ארגון הגירה בכפייה. באביב 1938 מונה אדולף אייכמן, שהיה קצין בכיר במדור לענייני יהודים במשרד הראשי לביטחון הרייך, לראש המחלקה היהודית באוסטריה. בתפקיד זה הקים ב-26 באוגוסט 1938 את הלשכה המרכזית להגירת יהודים שדאגה להחרמת רכוש היהודים וגירושם בכפייה חסרי כל למעט אשרת כניסה לארץ המיועדת.
שיטתו כללה שלושה שלבים: ראשית החרמת הרכוש, לאחר מכן הפחדות באמצעות מעשי טרור ואלימות, ולבסוף כפיית מנהיגי היהודים לשתף פעולה ולדאוג להגירת היהודים המפוחדים וחסרי הכל. ד"ר פרנץ אליעזר מאיר מהנציגות הארצית בברלין, ביקר בלשכה המרכזית להגירה בווינה בהוראתו של אייכמן ולאחר מכן העיד על כך במשפט אייכמן בירושלים. אייכמן דרש מהקהילה להגיש לו מדי יום רשימה שמית של 500 אנשים המועמדים להגירה. באופן זה התקצר משך התארגנות היוצאים לעד 48 שעות וקצב ההגירה זינק משמעותית. בנוסף, נאסרו במחנות ריכוז יהודים רבים על מנת ללחוץ עליהם להגר אל מחוץ למדינה. לאחר שחרורם, נאסרו בשנית אלה שלא היגרו.
בדומה ליהדות גרמניה, גם אצל יהודי אוסטריה היה ליל הבדולח אירוע חריג ומשמעותי. גם באוסטריה כוונו עיקר הפרעות אל בתי הכנסת ובתי טהרה. בקלגנפורט השחיתו את כל תכולת בית הכנסת, בגראץ פוצצו את בניין הכיפה המרשים של בית הכנסת וגירשו 300 גברים לדכאו, במיוחד היו קשות הפרעות באינסברוק בה הוכו כל היהודים וכמה מראשי הקהילה נרצחו. בווינה נהרסו 42 בתי כנסת וכ-8,000 יהודים נאסרו במהלך הפרעות ו-5,000 מתוכם הגיעו לדכאו. במהלך הפרעות נסגרו 27 מתוך 33 הקהילות באוסטריה ואת כל רכושן החרים אייכמן והעביר לקרן ההגירה בווינה.
עד לפרוץ המלחמה היגרו מאוסטריה 126,445 יהודים ל-89 מדינות שונות (ראה טבלה), כלומר כ-68% ממספרם בתחילת 1938. אוסטריה היוותה תקדים חיובי עבור הנאצים בנושא ההגירה, ותוצאה מרשימה זו הקנתה לאייכמן יוקרה בקרב בכירי הנאצים והוא נחשב למומחה מספר אחד בנושא הגירת היהודים. אייכמן התבקש לטפל גם ביהודי הפרוטקטורט של בוהמיה ומוראביה באופן דומה ושיטתו אף הועתקה לצורך הגירת יהודי פולין.
מלחמת העולם השנייה.
עם פרוץ המלחמה היו באוסטריה כ-58,000 יהודים. המדיניות ברייך עצמו (בניגוד לשטחים הכבושים האחרים) הייתה עדיין של עידוד הגירה (הגטאות ומחנות ריכוז לא היו תופעה נרחבת כמו בשאר אירופה), והיא תאמה את המדיניות שנהגה כלפי יהודי גרמניה. בתחילת המלחמה המשיכו ההכנות להגירה וניתנה הכשרה מקצועית לצורך בניית חיים חדשים במקומות אחרים. למרות המאמצים, עד ל-10 בנובמבר 1941, מועד בו נאסרה ההגירה סופית, הצליחו לברוח רק כ-2,000 יהודים. ההגירה בזמן מלחמה הייתה קשה עד בלתי אפשרית ואייכמן בעיקר נקט שילוח למחנות ריכוז ולגירוש אל האזור הסובייטי של פולין. הקהילה בווינה נערכה להחזקתם של 24,000 זקנים וחולים שלא יכלו להגר וכ-32,000 איש מעוטי יכולת שנזקקו לעזרה. הקהילה השתדלה לדאוג לצרכיהם והקימה מוסדות חינוך וסעד.
בתחילת המלחמה הגירושים היו בסדר גודל קטן יחסית. באוקטובר 1939 גורשו 1,048 יהודים בעלי אזרחות פולנית, או חסרי אזרחות, למחנה בוכנוואלד ושם נרצחו. כ-6,000 מנכבדי הקהילה נשלחו למחנות הריכוז בוכנוואלד, דכאו, והמחנה העיקרי באוסטריה, מאוטהאוזן. באותו הזמן נשלחו גם 1,584 יהודים לניסקו לצורך הכשרת המקום לתוכניתו של אייכמן להקים שמורת יהודים. הפתיחה לעידן השילוחים הנרחב הייתה בפברואר-מרץ 1941 אז גורשו 5,000 יהודים לאזור קיילצה שבפולין. באוקטובר של אותה השנה גורשו כ-10,000 יהודים לגטו לודז'. ב-19 בספטמבר 1941 חויבו יהודי אוסטריה מגיל שש ומעלה, יחד עם כל יהודי הרייך והפרוטקטורט, לענוד טלאי צהוב בגודל כף יד על החזה מעל הלב, כך שיבלוט בעת שהייה במקום ציבורי.
לאחר ועידת ואנזה בינואר 1942 עלה קצב הגירושים ובמהלך שנה זו גורשו מווינה 32,721 יהודים. 3,200 יהודים גורשו לריגה, 8,500 למינסק, 6,000 לאזור לובלין וכ-14,000 יהודים לטרזיינשטט. רובם של היהודים שנשלחו בגירושים אלו הגיעו לבסוף אל מחנות ההשמדה ובורות הירי ביחד עם הקהילה המקומית אליה הגיעו. ביוני של אותה השנה יצא משלוח ישיר מוינה אל מחנה ההשמדה סוביבור עם כ-1,000 יהודים. בנוסף, מבין 24,150 היהודים שהיגרו לפני המלחמה למדינות אחרות באירופה (למעט בריטניה), נרצחו 15,000 במהלך כיבוש אירופה על ידי הנאצים.
לאחר סיום המשלוחים באוקטובר 1942 הורה מושל וינה בחודש נובמבר על חיסול הקהילה היהודית. רכוש הקהילה הועבר לקרנות ההגירה של בוהמיה ומורביה לצורך החזקתם של המגורשים מווינה בטרזיינשטט. בנובמבר נשארו באוסטריה כ-7,000 יהודים, כאשר רובם נשארו עקב נישואיהם ללא-יהודים. כל אלו שהיו כשירים לעבודה מביניהם, גויסו לעבודות כפייה. לאחר ביטול הקהילה הוקמה מועצת זקנים שטיפלה בנושאי סעד ומזון והוכרה על ידי השלטון. המשך הגירושים היה בממדים קטנים יותר עד שבסוף המלחמה שרדו בווינה כ-1,000 יהודים בלבד, כולם בני משפחות מעורבות. כ-50,000 מיהודי אוסטריה נרצחו במהלך השואה בגטאות ובמחנות ההשמדה. לגטו טרזיינשטט, שהוגדר בוועידת ואנזה כגטו לזקנים ומיוחסים ממדינות הרייך, נשלחו במהלך המלחמה 15,264 יהודים מרחבי אוסטריה. מתוכם נספו 13,822 במחלות, רעב, או על ידי שליחה למחנות המוות. 1,311 מהם שרדו והצליחו להגיע ליום השחרור.
חסידי אומות העולם.
נכון ל-1 בינואר 2019, 110 מתושבי אוסטריה הוכרו כחסידי אומות העולם. ביחס לכלל האוכלוסייה הלא-יהודית מדובר באחוז קטן יחסית של חסידים, גם אם לוקחים בחשבון חסידים נוספים שלא הוכרו. אחוז נמוך זה דומה בממדיו רק לגרמניה - מה שייתכן ומראה כי במדינות הכובשות ניתן למצוא פחות חסידי אומות עולם מאשר במדינות הנכבשות, שכן באלו הנכבשות הציבור הלא-יהודי סולד ברובו מהמשטר הנאצי ורואה בעזרה ליהודים מעין התנגדות.