היהודים בארצות האסלאם היו בערך אחוז אחד מכלל האוכלוסייה. בערים גרו באחוזים גבוהים הרבה יותר, מאחר שהיו בעיקר אוכלוסייה עירונית. לא היה לקהילות היהודיות סמכות מעוגנת בחוק לאכוף תשלום מיסים למען הקהילה. הדבר נעשה בכל זאת על בסיס וולונטרי. מעשי נדבנות של אישים מרחבי ארצות האסלאם היו דבר שבשגרה, גם כלפי יהודים נצרכים מחוץ לקהילה המקומית.
בכל קהילה ממוצעת חיו במאות ה-7 עד ה-12 בין 60 ל-90 משפחות (300–500 נפש). בשנות ה-60 של המאה ה-12 מנתה הקהילה הגדולה בפוסטאט כ-3,300 נפש.
החלוקה החברתית-כלכלית בקהילות אלה: 1. מעמד גבוה, שעליו נמנו הדיינים ותלמידי החכמים, זקני העדה, נכבדי קהל ונושאי תוארי כבוד, חזנים, פרנסים, ראשי משפחות גדולות, מורים וסופרים. 2. אנשי עסקים ובעלי מקצועות חופשיים, בורגנות נמוכה (אומנים מומחים ורוכלים). 3. בעלי המלאכה והעובדים. 4. עובדי אדמה ועובדים זוטרים.
תפקיד מרכזי היה לסוחרים הגדולים, באשר הם היו רשת התקשורת בין חלקי העם היהודי.
מסמכים מחקר הגניזה הקהירית חושפים כ-450 סוגי מקצועות. כ-265 עיסוקים הכרוכים בעבודות כפיים, 90 סוגים של אנשים שעיסוקם היה מסחר ובנקאות, ומספר דומה של בעלי מקצועות חופשיים (כגון, פקידים ומלמדים). מאחר שהיהודים לא הוגבלו, ניתן היה למצוא אותם במגוון עיסוקים נרחב ביותר. היהודים בלטו בתעשיית הטקסטיל (בעיקר עיבוד משי וצביעתו), ייצור זכוכית ועיבוד מתכות (בעיקר צורפות כסף), מקצועות ייצור המזון ומקצוע הרוקחות.
היהודים עסקו באחוזים גבוהים במקצועות מהם מוסלמים אדוקים השתדלו להימנע - דיפלומטיה, מסחר וכספים, בנקאות, תיווך, ריגול ועיבוד זהב וכסף. יהודים רבים היו גם בורסקאים, קצבים, מנקי בורות שופכין, ושאר עיסוקים שנחשבו לבזויים.
היהודים גרו בשכונות ובאזורים עירוניים שמרבית תושביהם היו יהודים. הדבר נעשה לרוב לא מתוקף כורח אלא משיקולי נוחות. ישנן עדויות רבות למגורים בסמוך למוסלמים ונוצרים, ולעיתים אף באותו בניין. לעיתים התגוררו היהודים על פי שיוכם המעמדי וללא קשר לאפיון הדתי.
בימי הביניים יהודים מקצוות העולם המוסלמי ניהלו קשרים הדוקים ביניהם, ובמידה פחותה בינם לבין יהודי אירופה. כך למשל באחד ממסמכי הגניזה הקהירית נכתב על ידי ראש הקהילה היהודית בירושלים על הגעתו של סוחר מח'וראסאן (מחוז במערב איראן) שמחזיק במכתב המלצה מסוחר ידוע בסווילס (עיר בפורטוגל) ונמצא בדרכו למצרים. דוגמה אחרת היא מכתב שנשלח בשנת 1016–1017 על ידי הרשויות היהודיות בקירואן (עיר בתוניסיה) ליהודים בקהיר העתיקה שמבשר להם על מותו של סוחר יהודי בסיג'ילמסה (עיר במרוקו). המכתב ביקש מיהודי קהיר ליצור קשר עם הקהילה היהודית בבגדאד, ממנה הגיע הסוחר, כדי להודיע לבני משפחתו על מותו ולהעביר להם את הסחורה שהוא הותיר מאחוריו.
תודעת הזהות של היהודים הייתה בנויה מכמה מעגלים: זהות משפחתית, מצומצמת ורחבה; זהות רבנית או קראית; כפיפות לבבל או לארץ ישראל - הגם שלעיתים קרובות החלוקה לא הייתה דיכוטומית והיו כאלה שקיבלו את מרות המרכז הבבלי אך תרמו גם למרכז הארצישראלי; זהות העיר - "וטן", זהות חשובה ביותר; זהות האזור - למשל, בני עיראק, בני מצרים, בני המגרב. זהות זו הייתה קשורה למנהגים ולנוסחי תפילה שונים; זהות הקשורה ליחידה הכללית של ארצות האסלאם; זהות כלל יהודית; וזהות כלל אנושית.
בית הכנסת.
בתי הכנסת היו משופעים באריגים שקישטו את הקירות ואת העמודים. המתפללים ישבו או נשענו על כרים, שהושמו על מחצלות ושטיחי בית הכנסת. המתפללים התיישבו לאורך דפנות בית הכנסת. רבי אברהם בן הרמב"ם ניסה לערוך רפורמות בבתי הכנסת - לשנות את אופן הישיבה כך שהמתפללים ישבו שורות שורות אל מול ההיכל. כמו כן ביקש להוציא את כרי הישיבה. הדבר עורר תרעומת רבה וניסיון זה לא צלח. קריאת התורה התבצעה כך שכל פסוק ופסוק תורגם לארמית, אף על פי שלאחר כיבושי האסלאם גם תלמידי חכמים היו בקיאים בה פחות מאשר עברית וערבית. מנהג זה השתמר עד ימינו רק אצל יהודי תימן. חלק מרכזי בתפילות היו הפיוטים, אשר התרבו עם השנים.
חינוך יהודי.
הפעילות המרכזית בבית הספר הייתה שינון טקסטים מהמקרא ומהתפילה. מטרתו העיקרית של מוסד חינוך זה היה להכין את הלומדים בו להשתתפות פעילה בבית הכנסת. תוכנית הלימודים לא הוגבלה אך ורק ללימודי קודש. רב האי גאון קבע כי "מותר ללמד תינוקות של בית הכנסת אגב לימוד התורה כתב ערבי וחשבונות, אבל שלא עם התורה אינו נכון".
בגניזה הקהירית נמצאו מחברות תרגול המעידות כי הוראת הקריאה במוסדות חינוך אלה התבצעה באמצעות לימוד האותיות הבודדות (יחד עם סימני הניקוד הבודדים) וצירוף שלהם. יצחק בן שמואל, דיין בפוסטאט (קהיר) בסביבות 1100 לספירה, גינה חידוש חינוכי במסגרתו לימדו מורים קריאה תוך כדי שימוש במילים שלמות ובמשפטים קצרים. הדבר מעיד כי חידושים מעין אלה עלו מדי פעם, אך זכו לגינוי ונשתכחו.
כדי לחבב את מלאכת לימוד הקריאה בשנה הראשונה השתמשו במספר שיטות. אחת מהן הייתה לשרטט תבניות של אותיות ועל התלמידים היה למלא את המסגרות בצבעים.
כל מלמד או מלמדת היו "מוסד" בפני עצמו. ההוראה התבצעה בבית הכנסת, בבית המורה, ובקרב המעמד הגבוה - בבית ההורים. הקהילה דאגה לשכור מלמדים מיוחדים ליתומים ולבני עניים, שלא יכלו לשלם בעצמם עבור המלמד. משרת המלמד הייתה משרת כבוד, ואשר על כן מלמדים הוסיפו תואר זה לחתימותיהם.
רדיפות.
במהלך ימי הביניים חוו היהודים רדיפות אלימות באזורים שונים של עולם האסלאם, לעיתים מצד השלטונות המוסלמים ולעיתים מצד ההמונים. הרדיפות המשמעותיות ביותר בתקופה זו התרחשו בספרד, צפון אפריקה ותימן, אך פגיעות בחיי היהודים קרו גם באזורים אחרים של עולם האסלאם. על אף שפגיעות אלה היו הפרה לכאורה של חוזה עומר, הן הוצדקו על ידי הטענה שהיהודים עצמם הפרו ראשונים את תנאי עומר, נהגו בגאוות-יתר, על ידי הסתה אנטי-יהודית, או כתוצאה מתאוות הרכוש היהודי. כמיעוט חלש וחסר הגנה היו היהודים מטרה נוחה להתקפות בתקופות של אי-יציבות.
דוגמאות למקרי אלימות קשים נגד יהודים בימי הביניים ניתן למצוא גם בארץ ישראל. כך למשל, בשנת 1024 נערך טבח באוכלוסייה היהודית של העיר רמלה על ידי תושביה המוסלמים, ובנוסף יהודים רבים עונו עד שהם מסרו היכן החביאו את כספם. בשנת 1033 נערך אחד הטבחים הגדולים ביותר בהיסטוריה היהודית בעולם האסלאם, טבח ביהודי העיר פאס, בו נהרגו למעלה מ-6000 מתושבי העיר על ידי שבט צפון אפריקאי קנאי לאסלאם שכבש אותה. במהלך רדיפות אלימות בעיר גרנדה בשנת 1066, הידועות גם בשם פוגרום גרנדה, נהרגו למעלה מ-4000 מיהודי העיר בעקבות הסתה נגד הוזיר היהודי, יהוסף בר שמואל הלוי הנגיד, בנו של שמואל הנגיד. פוגרום גרנדה נתפש על ידי חוקרים אחדים כסופו של תור הזהב של יהודי ספרד. בבגדאד בשנת 1121 תחת הח'ליף אל-מסתרשד, יצא צו שחייב את היהודים ללבוש שני טלאים צהובים, שרשרת סביב הצוואר עליה כתוב "ד'ימי", ושאר סממנים מזהים. על פי מכתבים מהגניזה הקהירית הצו נאכף על ידי "גברים ונשים מוסלמים אכזריים" שתפקידם היה להשפיל ולהכות יהודים שהפרו את הצו, וקבוצות של צעירים שהכו יהודים ברחובות ברחבי העיר בגדאד. בזמן שלטונה של שושלת אל-מוראביטון, שנחשבה למתונה ביחסה ללא-מוסלמים, מקורות מוסלמים מציינים שנערכו פרעות באוכלוסייה היהודית של קורדובה בעקבות מציאתה של גופה של מוסלמי ברובע היהודי. כמו כן מנהיג שושלת אל-מוראביטון, יוסוף בן תאשפין, הרס בשנת 1090 את הרובע היהודי המתחדש בגרנדה במהלך כיבוש העיר מידי ממלכה נוצרית, בגין האשמה כנגד היהודים שהם צידדו בצד הנוצרי במהלך המלחמה.
עם עלייתה של שושלת אל-מוואחידון (1121-1269) בספרד וצפון אפריקה החלו כמה ממעשי הרדיפות החמורים ביותר בתולדות יהדות ארצות האסלאם. בפני רבים מהיהודים הועמדה הבחירה בין התאסלמות למוות על קידוש השם, ורבים נמלטו מספרד וארצות המגרב, ביניהם הרמב"ם ומשפחתו. לפי עדויות מהתקופה, בעקבות הטבח והמרות הדת הכפויות על ידי שושלת אל-מוואחידון, הוחרבו רוב הקהילות היהודיות הענפות בספרד וצפון אפריקה, עד ש"לא נותר יהודי אחד מאל-מהדיה (אשר בתוניסיה) עד סילווס (פורטוגל)" . ניתן למצוא בכתבי הרמב"ם התייחסות לרדיפות היהודים על ידי שושלת אל-מוואחידון ושלטונות תימן באיגרות הרמב"ם. בשנת 1260 התרחשו מהומות אנטי-נוצריות ואנטי-יהודיות בדמשק בחסות הכיבוש המונגולי של העיר. בשנת 1284 מהומות אנטי-יהודיות פרצו בבגדאד בעקבות ספר של פילוסוף יהודי בשם אבן כמונה שסקר את שלוש הדתות המונותאיסטיות והכיל ביקורת כלפי האסלאם. בשנת 1291 נרצח וזיר יהודי בפרס ביחד עם קבוצה ממקורביו, מה שסימן את תחילתן של מהומות אנטי-יהודיות ברחבי פרס ועיראק, בפרט נגד יהודים שהחזיקו תפקידים בכירים.
מבחינה מעשית, יהודי ארצות האסלאם ניסו להתמודד עם גלים של רדיפות דרך ניסיונות לרצות את השלטון המוסלמי והעברת שוחד כדי לקנות את הגנתו. פעמים רבות קהילות יהודיות תחת שלטון מוסלמי ניצלו בזכות העברה של מיסים גבוהים יותר או העברה של תשלום גדול וחד פעמי לשלטונות. עם זאת, במקרים כאלה הכביד העול הכלכלי על היהודים וכתוצאה ממנו, גם אם הצליחו להציל את עצמם מרדיפות אלימות, עדיין היו שרויים במשך תקופות ממושכות בעוני ובתנאי מצוקה קשים. מבחינה רוחנית, בקרב היהודים רווחה ההשקפה שהרדיפות כנגדם הם חלק מעונש הגלות שאלוהים הטיל עליהם בגלל חטאיהם. השאיפה לגאולה וישועה באה לידי ביטוי בכתביהם ושיריהם של יהודים רבים, כולל בשירתו של רבי יהודה הלוי:
המאה ה-13 עד הקולוניאליזם האירופי.