המתמטיקה המוסלמית זכורה גם כזו שדרכה עברה השיטה ההודית-ערבית, כולל הרעיונות החדשים שהתלוו לה: השיטה הפוזיציונלית והאפס כמסמן מקום וכמספר, מהודו לאירופה (את רעיון האפס הם אף פיתחו). לימים טען המלומד והפילוסוף המוסלמי אל-בירוני (973–1048), שביקר למשך מספר שנים בהודו, שבני עמו הכירו מספר שיטות ספירה הודיות, ובחרו את זו שנראתה להם היעילה ביותר. למעשה, ההיסטוריה של שיטת הספירה המוסלמית סבוכה ביותר, ואינה מסתכמת רק בהחלטה מושכלת קולקטיבית שכזו. לפני מוחמד, הערבים סימנו מספרים במילים בלבד. הניהול הכספי של הארצות הכבושות עודדו שימוש בספרות. תחילה היה שימוש בכל ארץ כבושה בספרותיהם של הנכבשים, ואולם בהמשך במשך תקופות ארוכות התקיימו באימפריה המוסלמית, במקביל, לפחות 3 בסיסי ספירה: בסיס אונרי, שכלל סימון עבור כל יחידה והיה נפוץ בשימוש עסקי; בסיס סקסגסימלי, שהיה נפוץ בחישובים אסטרונומיים, והשיטה העשרונית שמכונה השיטה ההודית-ערבית. הגיוון בשיטות שרד זמן רב גם לאחר שהשיטה העשרונית הייתה ידועה. איש העסקים אבו אל-וואפה כתב כי "לא מצאתי לה שימוש בקרב חוגי אנשי העסקים והאוכלוסייה של הח'ליפות המזרחית במשך זמן רב". סימני הספרות עצמם השתנו משמעותית מאז, אך העיקרון נשאר זהה. רעיון אחר שהעבירו ההודים למוסלמים הוא רעיון השבר, והם ממציאיו של קו השבר.
בתקופת בית אומיה (661-750) לא התפתחה המתמטיקה, סביר להניח שבשל הזמן הקצר מאז הפך האסלאם מקבוצת תומכים במוחמד לתרבות מגובשת של ממש. מרבית ההתפתחות המתמטית נעשתה בתקופת בית עבאס, שעודד את המדעים ובראשם האסטרונומיה, הרפואה וגם המתמטיקה, והזמין לחצר המלך מומחים ממקומות שונים. הח'ליפה השני לבית עבאס, אל-מנסור (שלט 754-775), נחשב למייסד תור הזהב של האסלאם. מלומדים ממקומות רחוקות הגיעו אל חצרו של אל-מנסור. בחיבור שנכתב סביב סוף המאה ה-12, אך נשען על מקורות עתיקים יותר, מתואר מלומד הודי שהפגין יכולת מרשימה מול אל-מנסור, והאחרון הורה לתרגם לערבית את הספר עליו התבסס. בהתאם לתיאור, סביר להניח שמדובר בספר בראהמספהוטסידהאנטה של בראהמגופטה. כלומר, הדבר מבטיח שבידי הערבים היה עוד אז ספר שבו ספרות הודיות. ב-763, עלה לשלטון הארון א-רשיד. כמו אצל אל-מנסור, גם בתקופתו הייתה פריחה תרבותית ומדעית, ובפרט במתמטיקה.
במאה התשיעית הח'ליפה אל-מאמון הקים את "בית החוכמה" בבגדאד. היה זה מכון לתרגום ולמחקר ובו ספרייה. כתבי יד מדעיים רבים נלקחו מרחבי האימפריה ותורגמו לערבית. במוסלמים שלטו על מעצמות מתמטיות, בהן יוון העתיקה והודו, וחיבוריהן החשובים תורגמו בבית החוכמה. לדוגמה, חמש מעבודותיו של אוקלידס (כולל "יסודות"), שתיים של ארכימדס, כל כתבי אפולוניוס מפרגה ו"האריתמטיקה" מאת דיופנטוס. התרגומים לא הוגבלו למתמטיקה טהורה; כך תורגם, למשל, הטקסט האסטרונומי "אלמגסט" שכתב תלמי. "בית החוכמה" היה גם מקור של מחקר מקורי. ייתכן מאוד שמלומדים הודיים ששכנו שם העבירו למוסלמים את רעיון האפס.
גדול החוקרים שהניב המוסד הוא אבו ג'עפר מוחמד אל-ח'ואריזמי שחי בסביבות השנים 780–845. הוא כתב מספר חיבורים שמהם ידועים שניים. האחד הוא "Algoritmi de numero Indorum" ("אלגוריתמי על אמנות החישוב ההודית"). בתרגום ללטינית מן המאה ה-12, שהוא המהדורה היחידה ששרדה (אפילו השם המקורי בערבית לא שרד), שובש שמו של אל-ח'ואריזמי לאלגוריתמי, מה שיצר את המונח אלגוריתם. תרומתו העיקרית של הספר הייתה הצגה מתקדמת במיוחד של שיטת הספירה ההודית, כולל האפס, וכללים אריתמטיים שונים. יצירתו הבולטת השנייה, "חיסאב אל-ג'אבר ואל-מוקאבלה" ("חשבון ו"), חשובה אף יותר ונתנה לו מוניטין של מייסד האלגברה. "חיסאב אל-ג'אבר ואל-מוקאבלה" נחשב לספר מכונן בתולדות האלגברה (ממנו נגזר שמה) והייתה לו השפעה מאות שנים לאחר כתיבתו. הספר מחולק לשני חלקים, שרק את הראשון אפשר לכנות "אלגברי" במובנה המודרני של האלגברה, והשני כולל הצדקות גאומטריות לחישובים מהחלק הראשון. הוא כולו כולל תיאורים רטוריים ללא סימון מתמטי, וניכר כי כותבו מעדיף את שיטות ההסקה ההודיות הגמישות מאשר ההוכחות הקפדניות של היוונים, אף כי ברור שהוא מושפע מהישגי שתי התרבויות. בתחילתו נכלל הסבר כיצד לכתוב מספרים בבסיס 10. ניתנים כללים לביצוע פעולות החשבון - הן בשלמים והן בשברים. לעומת זאת, המספרים השליליים לא אומצו לא כביטויים ולא כפתרונות למשוואות. מפני שנמנע השימוש במספרים שליליים, נאלץ הכותב לחלק את המשוואה שידועה היום כמשוואה ריבועית ל-6 קטגוריות שונות, בשעה שלמעשה מדובר בייצוגים שונים של אותה משוואה. הדוגמאות המובאות לכך הן אלגוריתמיות, כלומר "מתכוניות", מכילות סדרת צעדים מספריים המובילים לתוצאה, בלי התייחסות למקרה הכללי. אותן דוגמאות בדיוק הוא מראה גם בייצוג גאומטרי.
מתמטיקאי חשוב נוסף מ"בית החוכמה" הוא ת'אבת אבן קורה, שהיה גם אסטרונום בעל השפעה. הוא היה מתרגם נחשב, ותרגם את כתבי אוקלידס, ארכימדס, אפולוניוס מפרגה ותלמי. גם תרומותיו המקוריות הן בעלות חשיבות רבה. הוא המשיך במסורת ההודית, ועסק בריבועי קסם, נושא שהיה פופולרי בהודו ובסין אך לא זכה להתייחסות בארצות ערב. הוא מצא נוסחה לגילוי מספרים ידידים, אם כי לא את כולם. גילוי חשוב נוסף שלו היא הכללת אבן קורה למשפט פיתגורס עבור משולש כללי.
אבו כאמל (בערך 850-בערך 930) הרחיב את הישגי אל-ח'ואריזמי. הוא השפיע על מתמטיקאים חשובים שבאו אחריו, כמו: לאונרדו מפיזה (פיבונאצ'י) האירופאי, ואל-קאראג'י המוסלמי.
אל-קאראג'י (953- בערך 1024) התרחק אף יותר מאל-ח'ואריזמי מהמסורת הגאומטרית. הוא הגדיר את הביטויים formula_12, ואף את formula_13, ונתן כללים להכפלתם זה בזה. בכלליו אלו כמעט וניסח גרסה שקולה לנוסחה המודרנית formula_14, אך לא הגדיר את formula_15 כ-1. כל זאת עשה ללא שימוש בכללים גאומטריים. בנוסף, הוא ייסד מוסד לימודי שהתקיים מאות שנים לאחר מותו. אל-ח'ואריזמי ואל-קאראג'י הביאו את האלגברה לשלב התפתחות מתקדם במיוחד, וניכר כי הם היו קרובים יותר מכל קודמיהם לאלגברה המודרנית.
איבן אל-היית'ם (955-1040) נחשב לאחד ההוגים המשפיעים ביותר בהיסטוריה של המחשבה האנושית, ובפרט במדעי הטבע - גם בהישגיו הרבים וגם בגישתו המדעית המדוקדקת המקדימה את זמנה. נודע בעיקר כפיזיקאי ובייחוד כאופטיקן, אך תרומתו השתרעה על פני מגוון רחב של נושאים, בהם: פסיכולוגיה, פילוסופיה, אדריכלות, אסטרונומיה וגם מתמטיקה. הוא התעניין הן בגאומטריה והן בתורת המספרים, ובמיוחד בשילוב בין שני התחומים. הוא פיתח מעין גאומטריה אנליטית מוקדמת, והשפיע, אולי, על יסודות הגאומטריה האנליטית המודרנית של רנה דקארט ועל החשבון הדיפרנציאלי והאינטגרלי של אייזק ניוטון שבאו לאחריו. בגאומטריה הוא ניסה להוכיח את אקסיומת המקבילים בעזרת הוכחה בדרך השלילה, ובעבודותיו נמצאו רעיונות שעתידים היו להפוך לחלק מהגאומטריה הלא אוקלידית. בתורת המספרים, הוא הבין כי למשפט שהוכיח אוקלידס, לפי כל מספר מהצורה formula_8, כאשר formula_9 הוא ראשוני הוא מספר משוכלל, יש גם משפט הפוך תקף: כל מספר משוכלל זוגי (לא ידוע אם קיימים אי זוגיים) הוא מצורה זו - משפט שהוכח רק על ידי לאונרד אוילר.
עומר ח'יאם (1048-1131) מפרס נודע בעיקר כמשורר, במיוחד בגלל יצירתו המרובעים של עומר ח'יאם. יצירה זו היא אחת מהדוגמאות הידועות ביותר בכל הזמנים לכתיבה בסגנון "מרובעים", סגנון שמקורו ככל הנראה מפרס ובו נכתבים שירים בני ארבע שורות, שוות פחות או יותר, ובהן מסר פילוסופי קצר או רעיון הומוריסטי המתמצים לרוב בשורה האחרונה. הצלחת "המרובעים של עומר ח'יאם", שתורגם לשפות רבות שוב ושוב, עוררה שימוש בסגנון שירי זה הן בארצות ערב והן במערב (בתקופות שונות). תרומות ידועות פחות שלו, אך חשובות גם הן, נכללות בתחומי הפילוסופיה, האסטרונומיה ובעיקר המתמטיקה. ח'יאם כתב ספר אלגברה שהושפע מאל-ח'ואריזמי, ובאופן מובהק לא פחות מהמסורת הגאומטרית היוונית. בספר זה הוא חידד את ההבחנה בין אריתמטיקה לאלגברה. הוא הוסיף לששת סוגי המשוואות שציין אל-ח'ואריזמי עוד 19 סוגים, מהן 14 סוגי משוואות ממעלה שלישית. הישגו הגדול הוא יצירת שיטה לסיווג ולפתירת משוואות ממעלה שלישית בעזרת חיתוכי חתכי חרוט שונים (מעגל, אליפסה, פרבולה, היפרבולה), הישג מרשים לאור העובדה שבאירופה הגיעו לאותו הישג בעזרת אלגברה "טהורה" (ללא גאומטריה) - רק במאה ה-16. הוא גם הכיר במספרים אי רציונליים כמספרים לכל דבר, על אף שהיו אלו פתרונות "גאומטריים", כהגדרתו, למשוואותיו (לעומת פתרונות "אריתמטיים", שהם חיוביים ורציונליים). אף על פי שהושפע מהמסורת האוקלידית, הוא לא חשש להצביע על בעיות שמצא ב"יסודות" של אוקלידס: כך החליף את תאוריית הפרופורציות של אוקלידס ואאודוקסוס מקנידוס בתאוריה מספרית ולא גאומטרית, וכך לא השתמש באקסיומת המקבילים, אלא בפוסטולאטים אחרים, והגיע, כמו איבן אל-היית'ם, לתובנות שהקדימו את זמנה של הגאומטריה הלא אוקלידית.
אל-סמוואל (נולד ב-1130), מתמטיקאי חשוב למדי ממוסד הלימוד של אל-קאראג'י, הגדיר את האלגברה כך: "... ביצוע פעולות על הלא ידוע תוך שימוש בכל הכלים האריתמטיים, באותה צורה בה מבוצעות פעולות על הידוע". זוהי ההגדרה המדויקת הראשונה לאלגברה במובנה המודרני. מתמטיקאי אחר בן אותו דור, שארף אל-דין אל-טוסי (1135 לערך - 1213), המשיך בדרכו של אל-ח'ואריזמי בנושא הקשר בין אלגברה לגאומטריה, וכתב חיבור בנושא משוואות ממעלה שלישית, שהחוקר המודרני ר. ראשד מייחס לתחילת הגאומטריה האלגברית.