דוד איילון נולד בחיפה בשם דוד נוישטדט וגדל בראש פינה ובזכרון יעקב, והוא חניך בית הספר הריאלי בחיפה, שם היה אחד ממוריו הבולטים יחזקאל קויפמן. החל ללמוד שפה וספרות ערבית, תרבות האסלאם והיסטוריה של עם ישראל באוניברסיטה העברית ב-1933, למד אצל לוי ביליג (המרצה הראשון באוניברסיטה העברית לערבית אשר נרצח במאורעות תרצ"ו), הושפע ממחקריו של המילטון א.ר. גיב אודות הספרות הערבית החדשה והושפע יותר מכל ממורו שלמה דב גויטיין, ובעידודו אף למד שנה באוניברסיטה האמריקנית בביירות. עשה את עבודת התזה לתואר השני ואת עבודת הדיסרטציה לדוקטורט על הממלוכים, בהנחייתו של פרופסור אריה לאון מאיר, קיבל את הדוקטורט ב-1946. בתקופה שקדמה להקמת המדינה עבד איילון במחלקה המדינית של הסוכנות היהודית, שלאחר קום המדינה הפכה למשרד החוץ, שם עבד במדור המחקר של מחלקת המזרח התיכון. ב-1949 שב לאוניברסיטה העברית, שם לימד עד לפרישתו ב-1982.