היהודים נשארו בארמון הבישוף בצד הצפוני של קתדרלת שפייר ובעיירות סמוכות אחרות עד ששכך זעם ההמון. בביצוע פעולה זו, מנע הבישוף של שפייר (יוהאן וום קרייכגאו הראשון, 1090–1104) טבח וגירוש כפי שקרה בערים אחרות בחבל הריין, ובכך חסך מעצמו ומהעיר אבדן מקור הכנסה משמעותי.
ישנם מקורות המעידים על התאבדות המונית בתקופה זו בשפייר.
הפוגרומים בשפייר, וורמס ומיינץ משנת 1096 נקראו "גזירות תתנ"ו" והקורבנות שלהם עדיין מונצחים בליטורגיה היהודית. בקינת מי יתן ראשי מים שכתב רבי קלונימוס בן יהודה על הגזירות נאמר
בעקבות פוגרומים אלו והכחדת קהילות מיינץ, וורמס וקלן, החליפה אותם שפייר. את התעצמותה התורנית והמספרית של קהילת יהודי שפייר תיאר אברהם גרוסמן: "הקהילה שמילאה את מקומן של קהילות וורמס ומיינץ באשכנז בראשית המאה השתים עשרה הייתה שפייר. בה פעלו רבי אליקים בן רבי משולם, ריב"א ואחרים, בעיקר צאצאיהם של משפחות קלונימוס, אבון ור"י הכהן שהיגרו ממגנצא בשנת 1084".
לאחר הפוגרום.
חודשים לאחר הפרעות ישבו בני קהילת שפייר במבצרים. בסוף הקיץ, לאחר שתמו גלי הצלבנים, חזרו בני הקהילה לבתיהם. אולם גם אחרי שחזרו למקומם אוירת הפחד עדיין שלטה ברחובות מספר שנים, ובני העיר היהודים נשארו נצורים ברובעי העיר שבהם חיו, ללא יכולת מעבר בין רובע לרובע.
בשנים שלאחר הפוגרום נרשמה בקהילה היהודית תנופת בנייה אדירה. בית הכנסת החדש וקתדרלת שפייר תוכננו ונבנו על ידי אותם בונים. חנוכת בית הכנסת מתוארת בידי שלמה בן שמעון, הכותב כי הבנייה הושלמה באלול ד'תתס"ד (ספטמבר 1104), שמונה שנים לאחר גזירות תתנ"ו, וכבר בראש השנה ד'תתס"ה התפללו בבית הכנסת.
תקופת הזוהר של הקהילה.
הקהילה צמחה ושגשגה במהלך המאה ה-12, היא הייתה אחת מהקהילות היהודיות החשובות באימפריה הרומית הקדושה בשנים אלו ושימשה כמרכז חשוב ללימוד תורה. למרות הרדיפות והגירושים תרמה הקהילה תרומה משמעותית לחיים האינטלקטואליים והתרבותיים בעיר במשך מאות שנים. מצבה הכלכלי היה מצוין, והיא ביססה את עצמה כמרכז תורני. עם חכמי שפייר נמנו בשנים אלו אליקים בן משולם הלוי, תלמידו של יצחק בן יהודה ממיינץ. קלונימוס בן יצחק הזקן, מיסטיקן ופרשן התלמוד בבלי. יצחק בן אשר הלוי. יעקב בן יצחק הלוי, מבעלי התוספות, שמואל בן קלונימוס החסיד. שמריה בן מרדכי, מבעלי תוספות והתכתב עם רבי יעקב תם. מאיר בן קלונימוס בעל פירוש לספרא, ספרי ומכילתא, ויהודה בן קלונימוס משפיירא בן מאיר, מחבר הלקסיקון "ייחוסי תנאים ואמוראים".
בשנים שלאחר הפרעות היהודים התיישבו לא הרחק מקתדרלת שפייר, ברחוב היהודים, קליינה פפנגאסה. הקהילה היהודית מנתה לפי ההערכה בין 300 ל-400 איש. מרכז היישוב היה , בו שכנו בית כנסת ומקווה.
פריחתה הכלכלית של הקהילה נבע מהיותם של היהודים (יחד עם הפריזים) מרבית הסוחרים באזור.
שפירא התאחדה יחד עם "קהילות שו"ם" (ראשי התיבות העבריים של שפירא, וורמס [ורמיזא] ומיינץ [מגנצא]). איחוד זה שימש את היהודים ברחבי גרמניה כסמכות עליונה בעניינים הלכתיים וסוגיות דתיות אחרות. לערי שו"ם היו מנהגים משלהם ותקנות משלהם, תקנות שו"ם. הם שמרו על ייחוד זה עד לסביבות אמצע המאה ה-13. היו בשפייר כמה בתי ספר יהודיים חשובים וישיבה. בגלל הכריזמה הרוחנית של הקהילות היהודיות הפורחות שם, שלוש הערים הללו כונו "ירושלים דריין" בימי הביניים והיו בעלות חשיבות מכוננת ליהדות מערב אירופה, ולכן הם נחשבות כמקום הולדתה של יהדות אשכנז.
עם זאת, גם בתקופת הפריחה של יהדות שפייר, התרחשו התפרצויות אלימות בשנת 1146 במהלך מסע הצלב השני, שהצטרפו אליו גם אנשי הדת הנוצרית. בין הקורבנות של פוגרום זה הייתה אישה בשם מיננה, שאוזניה ולשונה נחתכו משום שסירבה להמיר את דתה לנצרות.
עלילות דם, פוגרומים וגירושים.
זמן קצר לאחר מסע הצלב השלישי התרחשו שוב רדיפות, כאשר התרחשה עלילת דם בפברואר 1195 (אדר ד'תתקנ"ו). גופה נמצאה סמוך לעיר שפייר ובעקבותיה פורעים נוצרים רצחו תשעה יהודים. ב-13 בפברואר בתו הצעירה של הרב והדיין יצחק בן אשר הלוי השני (הבחור) נרצחה בעלילת הדם והוצגה בעירום במשך שלושה ימים בכיכר השוק. הלוי נרצח גם הוא כשהתנגד להמון שתקף את הגופה. בתי היהודים נשרפו ובית הכנסת באלטספייר נהרס. בפרעות אלו התאבדו רבים מבני הקהילה כדי שלא להגיע לידי הפורעים.
רבי אפרים בן יעקב מבון סיפר בפירוט רב על עלילת דם זאת וגורלו של רבי יצחק בן אשר הבחור "באדר נמצאה גווייה נרצחה קרוב לעיר אשפיירא בשלוש פרסאות ושמחו הגויים והוציאו קול על היהודים לאמור כי הם רצחוה, ויקומו לבולעם חיים. ויוציאו את בת הרב רבי יצחק בן אשר הלוי מקברה בתוך ימי אבלה, ויתלה ערומה בשוק ועכבר תלוי בקלעי שיער ראשה ללעג ולקלס לישראל. ויפדה אביה על ידי שוחד וישיבו אל קברה. ויהי ממחרת ואנשי העיר אנשי סדום נסבו על בית הרב ויפרפו בו פרץ ויהרגוהו, וחמש נפשות עמו. גם שרפו את כל בתי הקהל והיהודים עלו אל עליית בית הכנסת ואחרי כל העלו את הסולם אשר עלו בו - אליהם. ושם נמלטו עד בוא להם עזר, והורידו את הסולם ויצאו בו מן העיר בעוד לילה. והאויבים שללו את כל אשר בבתים ואת ספריהם וספרי התורה השליחו במים. ואת בית הכנסת שרפו באש". אולם עקב כך שלפני מסע ההרג וההרס ציווה עליהם הדוכס "אוטו" אחי המלך שלא ישלחו ידם ביהודים "ויחר אפו בהם" לאחר שהוא שמע על הפרעות "ויאסוף חייל ויצר על העיר אשפיירא. וישרוף להגמון הרשע ולעירוניים את כל הכפרים... ואחרי כן תפש את הרוצחים. וליהודים נתנו 150 זקוקים. ובנו להם את בתיהם ואת בית הכנסת".
היינריך השישי, קיסר האימפריה הרומית הקדושה ציווה לפצות את היהודים על נזקים שסבלו עקב עלילת הדם ועל שריפת בית הכנסת ולבנות מחדש בתים שנהרסו.
על מאורע זה כתב רבי יהודה בן קלונימוס משפיירא את קינתו "אל אבל אקרא" בה הוא דחה את הניסיונות להמרת דת: "סודם הערימו זכרונינו להיעדר ובעשרים ותשעה אורינו קדר לחודש שנים עשר הוא חודש אדר... דם נפשות אבנונים נקיים..."
עלילת דם שנייה, ששוב גרמה לסבל רב לקהילה אירעה ב-1282 כאשר הרבורד, ריטר פון דר אוהם, האשים את היהודים ברצח נכדו.
בשנת 1286 השתתפו רבים מיהודי שפייר, וורמס, מיינץ ואופנהיים בניסיון עלייה לארץ ישראל שלא צלח, בהנהגת המהר"ם מרוטנבורג.
בגלל גלי הפליטים שנמלטו ממעשי הטבח ואלו מהם שניסו להמלט לארץ ישראל, גזר רודולף הראשון, מלך גרמניה את ה"צו אודות פליטים יהודים" ב־6 בדצמבר 1286, כשהיה בשפייר. בצו נכתב כי יש רשות לתושבים לבזוז את רכוש היהודים שנמלטו: "רודולף, מלך רומי בחסד האל, הנעלה בכל הקיסרות, קורא שלום וחסד אל החכמים, אנשי הלשכה, הפקידים, השופטים, חברי המועצה וכל התושבים. מאחר שהיהודים כולם כאחד הם עבדי אוצרנו, וכל המונם ורכושם שייכים לנו – או לנסיכים שאנו והקיסרות הענקנום להם כמתת – הכתוב למטה קים וישר ונאמן על פי חוק: אם חלק מיהודים אלו נמלטים וחוצים את הים מבלי לקבל רשות מיוחדת מאיתנו או מאדוניהם, וזאת על מנת לחמוק מאדוניהם הלגיטימיים, אזי רשאים אנו או האדונים להם הם משתייכים להפעיל את סמכותנו החוקית ולקחת לרשותנו את כל רכושם, המלבושים שלגופם ונכסיהם דניידי ודלא ניידי, בכל אתר ואתר שהם מצויים בו. מאחר שניסיונות לחולל עוולות בתחום זה מופנות במידה מיוחדת אל היהודים, מעניקים אנו את מלוא הסמכות על היהודים המצויים כעת בשפייר, וורמס, אופנהיים, מיינץ וכל חבל וֶטֶראוּ, לנסיך-הארכיבישוף המרומם היינריך ממיינץ, מזכירנו היקר, והאדון האציל הרוזן אברהרד מ, מתוך בטחה בכישוריהם ונאמנותם. נתון בידם, ללא ערעור מאיש, לקחת לרשותם את הרכוש, המלבושים ונכסי ניידי ודלא ניידי של היהודים הנמלטים, בכל אתר שאלו מצויים, ולחלקו ולהקצותו כטוב בעיניהם. משום כך אנו מבקשים מכם במלוא החומרה, שתפנו את כל מרצכם לסייע ולעמוד לימין הארכיבישוף והרוזן ששמם נקוב לעיל באמונה ובתושיה, כך שנוכל לשבח את נכונותכם ומסירותכם בזכות. ניתן בשפייר, ב-6 בדצמבר לשנת ארבע-עשרה למלכותנו."
בתחילת ה-14 נחלש כוחם של הקיסר והבישוף, ובשנת 1330 השתלטה הנהגת העיר על הגנת היהודים בתמורה לתשלום של 300 הלר. עלילת דם נוספת פקדה את הקהילה ב-1342.
בשבוע חג הפסחא של שנת 1343 נמצאה גופתו של נוצרי בשם לודוויג, ובעקבות כך עונו ונשרפו יהודים על המוקד.
הקהילה נמחקה לחלוטין בפוגרומים בזמן "המגפה השחורה" (ה'ק"ט, ינואר 1349), רבים שרפו את עצמם למוות בבתיהם לנוכח האיומים ואחרים התנצרו או ברחו להיידלברג. הרכוש היהודי ובית העלמין הוחרמו.
כדי להלבין את הפרת חוקי השלום הקיסרי, שהיה אמור להגן על כל התושבים באופן שווה, קיבל קרל הרביעי, קיסר האימפריה הרומית הקדושה החלטה אופורטוניסטית לטובת אנשי העיר הפורעים בביקורו בשפייר באביב 1349 ושחרר אותה מכל אשמה, הוא מחל לתושבי העיר על מעשי הטבח והשוד שעשו ליהודים והתיר להם להחזיק בגזל. המגפה השחורה נמשכה בקיץ, אך לא ידוע מה היו השפעותיה על העיר לאחר מכן.
עם קשיים רבים התחדש היישוב היהודי לאחר המגפה, אך לא זכה עוד למעמדו הקודם כמקום תורה חשוב. ב-1405 היהודים גורשו מהעיר והותר להם לשוב רק ב-1421. ב-1430 הם גורשו שוב, וחזרו ב-1434 כשמועצת שפייר חידשה את זכות המגורים ליהודים לשש שנים נוספות, עליהן ישולמו 5 עד 35 גילדן למשק בית. הם גורשו שוב שנה לאחר מכן, ב-8 במאי 1435 "לנצח". אחד הפליטים היה מוזס מנצלב. בנו, ישראל נתן, הקים בסונצ'ינו את אחד מראשוני חברות הדפוס העבריות.
לאחר 30 שנה חזרו שוב היהודים להתגורר בשפייר.