במסגרת עבודתו בפיוט הקדום הוא פרסם מהדורות מונוגרפיות של טקסטים עבריים וארמיים מן התקופה הקדומה של הפיוט, כמו כן כתב על הלשון השירית המיוחדת של הפיוט ועל שיטת הניקוד הארץ-ישראלי הקדום הטיפוסי לקטעי גניזה של פיוט, כמו כן כתב חיבור מונוגראפי על הרקע החברתי והתרבותי – פיוט ומציאות - שעמד בבסיס עלייתה והתפשטותה של השירה הליטורגית. שימש מרצה באוניברסיטה העברית החל מ-1974. ב-1983 נבחר כחבר האקדמיה ללשון העברית וב-1985 מונה לפרופסור מן המניין בחוג לספרות עברית באוניברסיטה העברית בירושלים.
יהלום שימש כעמית מחקר בדמבארטון אוקס ללימודי ביזנטיון בוושינגטון, וכפרופסור במחלקה ללשונות המזרח הקרוב ותרבותו שבאוניברסיטת הרווארד (פעמיים) וכן במחלקה ללימודי דתות באוניברסיטת ייל ובבית הספר הגבוה ללימודי תרבות של אוניברסיטת קיוטו. שימש עמית מחקר באוניברסיטת קיימברידג' (פעמיים), במכון ללימודים מתקדמים באוניברסיטה העברית (שלוש פעמים), בסמינר התאולוגי היהודי בניו יורק ובמכון ללימודים מתקדמים באוניברסיטת פנסילבניה בפילדלפיה.
יהלום כיהן כראש המחלקה לספרות עברית שבאוניברסיטה העברית, והיה מעורכי כתבי העת תרביץ ו'מחקרי ירושלים בספרות עברית'. זכה בפרס יצחק בן צבי לשנת 2003 על מפעל חיים בחקר יהודי ארץ ישראל ויצירתם הפייטנית. בשנת 2012 זכה יהלום יחד עם חננאל מאק בפרס ביאליק לחכמת ישראל.
רעייתו, ד"ר שלומית יהלום, היא היסטוריונית ועוסקת בחקר יהדות ארצות הברית. להם חמישה ילדים. בנו, פרופ' אשר יהלום, הוא פיזיקאי המרצה באוניברסיטת אריאל. בנו, פרופ' שלם יהלום, הוא חוקר תלמוד ומתמחה בעולם ההלכה והמנהגים בימי הביניים, ומרצה באוניברסיטת אריאל.
מחקריו.
תיאור מחקריו.
מחקריו של יוסף יהלום עוסקים בשירת החול והקודש העברית בימי הביניים, והם משתרעים על פני תקופה של כאלף שנה, משלהי הזמן העתיק במאה ה-5 ועד לאחר גירוש ספרד במאה ה-16. הוא מרבה לעסוק במחקריו בנקודות המגע שבין הספרות העברית והספרויות המקבילות. כך הוא עוסק בקשרים בין פיוט קדום והימנולוגיה ביזנטית, יוונית וסורית, בעדויות הקדומות ביותר לשירת הרומנס בספרד כפי שהן עולות מקטעי סיום, כ'רג'ות, של שירי אזור עבריים בספרד ואף במשמעותם של ציוני לחן טורקיים בשירי דבקות מיסטיים. הוא נותן מחילו ליצירתו הדו לשונית, העברית והערבית, בשירה ובפרוזה, של יהודה אלחריזי.
שירת חייו של יהודה הלוי.
ספר זה כתב יהלום על הביוגרפיה של יהודה הלוי. בחיבור זה הוא מנסה לחבר בין המקורות הספרותיים, שירת חול וקודש, ובין המקורות הדוקומנטריים, מכתביו האוטוגראפיים של הלוי וכן מכתבים שכתבו אליו ועליו, כל זאת מלבד הגותו כפי שהיא עולה בספר הכוזרי. בין השאר הוא גם בוחן את אוספי השירים, הדיוואנים, בגלגוליהם השונים ועוקב אחר ניסיונות העריכה שהם עברו ואחר השפעתה של העריכה על מבחר השירים ועל הכתובות הערביות שבראשם. הספר כבר מבוסס על הנוסח הביקורתי של דיואן הלוי שהוא מכין לדפוס.
נעימות עות'מאניות, פיוטים עבריים: הרפתקה בין-תרבותית מן המאה ה-16.
ספר זה (Ottoman Melodies, Hebrew Hymns: a 16th Century Cross-Cultural Adventure) כתב יוסף יהלום ביחד עם אנדריאס טיצה, הטורקולוג הנודע מווינה, והוא ראה אור בהוצאת האקדמיה ההונגרית למדעים, בודפשט 1995. שם הם זיהו כמה מאות שירים טורקיים שסומנו כלחנים בראש שירי ישראל נג'ארה וחבריו מן המאה השש-עשרה. בשימושם כלחנים הם מהווים עדות קדומה ביותר לקיומם של שירים טורקיים אלה. התופעה ידועה לאחר גירוש ספרד גם מלחנים המבוססים על שירי אהבה ספרדיים הפונים לסניורה, ומשמשים בגלגול דתי כשיר תפילה הפונה אל 'שם נורא'. באופן דומה גם מתגלגלת 'לה בלה מרגריטה' אל תוך שיר דבקות דתי שפתיחתו 'לא באלהא מרגליתא'.
שירת בני מערבא: שירים ארמיים של יהודי ארץ ישראל בתקופה הביזנטית.
יהלום כתב את ספרו ביחד עם פרופסור מיכאל סוקולוף, המילונאי. ספר זה מציג לראשונה קורפוס של שירים ארמיים מארץ ישראל הביזנטית. ייחודם של השירים בעממיותם ובשימושם בחיי יום יום בניגוד גמור לשירה הליטורגית הכבדה שנכתבה עברית אשר שימשה בעיקר בבית הכנסת. הספר ראה אור בהוצאת האקדמיה הלאומית הישראלית למדעים בשנת 1999, וזכה להתעניינות גדולה ולביקורות חשובות בין השאר מכיוון שבשיר פרודי שהיה מיועד כנראה לסעודת פורים, המשורר מתאר בארמית אותנטית מארץ ישראל את סיפור סבלותיו של ישו על הצלב.
מסעי יהודה: חמישה פרקי מסע מחורזים לאלחריזי.
ספר זה הוציא יהלום ביחד עם פרופסור יהושע בלאו, איש הערבית היהודית, והוא ראה אור בהוצאת יד יצחק בן-צבי בשנת 2003. בחיבור זה מתפרסמים טקסטים בהם יהודה אלחריזי מספר על מסעו בערי המזרח בראשית המאה השלוש-עשרה. סיפור המסע זכה לכמה עיבודים, ביניהם עיבודים בלטריסטיים בעברית ועיבוד אוטוביוגרפי בערבית יהודית ועוד כמה עדויות נוספות, ביניהן מכתב אוטוביוגרפי המתפרסם בפעם הראשונה. בספר הזה נעשה ניסיון ראשון לרכז את כל העדויות למסעו המרתק של המחבר ועל דרך ההשוואה ללמוד על עולמו של עולה רגל יהודי בימי הביניים.
עבודה: אנתולוגיה של שירה קדומה ליום כיפור.
ספר זה (Avodah: an Anthology of Ancient Poetry for Yom Kippur) ערך יהלום ותירגם לאנגלית ביחד עם פרופסור מיכאל שוורץ, חוקר הדתות מאוניברסיטת אוהיו, הספר ראה אור בהוצאת אוניברסיטת פנסילבניה בשנת 2005. בספר תרגמו המחברים לאנגלית מספר פיוטי סדר העבודה קדומים משלהי העת העתיקה. סדרי עבודה הם סוג ספרותי המתאר את תולדות העולם מבריאת העולם ועד בחירת אהרן הכהן ואחר כך את תיאור עבודת הכהן הגדול ביום הכיפורים בבית המקדש.
מחזור ארץ-ישראל – קודקס הגניזה.
בספר זה משחזר יהלום על פי כמה עשרות קטעי גניזה שנתפזרו באוספי הגניזה בעולם כולו כמאה דפי קלף מפוארים השייכים למחזור בנוסח ארץ ישראל הקדום ששרידיו הושלכו לגניזה כנראה בעקבות הכיבוש הצלבני עם ירידתם של יהודי ארץ ישראל מצרימה. המחזור הועתק כנראה במאה האחת עשרה, ומכיוון שלא היה בשימוש במשך זמן רב מידי, מצב השתמרותו טוב באופן יחסי. מבחינת הרפרטואר שלו המחזור מיוחד בזה שהוא כולל גם יצירות גדולות מן התקופה שלאחר כיבושי האסלאם, ביניהן יצירותיו של שלמה סולימן אלסנג'ארי. מחזורים מטיפוס קדום יותר שאינם כוללים יצירות שנכתבו לאחר כיבושי האסלאם, משתחזרים והולכים בעבודה משותפת עם בנימין לפלר ועומדים לראות אור בכרך מיוחד 'מחזורי קדמונים'. כאן נבחנות גם העדויות הקודיקולוגיות למעבר של חומרי שיר ארץ ישראליים קדומים לאיטליה וגם לאשכנז בהמשך. 'מחזור ארץ-ישראל' היה ונשאר מכל מקום הקודקס הליטורגי הקדום ביותר בהיקף הזה שהגיע לידינו.
פרקים בתורת השיר לאלעזר בן יעקב הבבלי.
חיבורים בתורת השיר, פואטיקה, שהיו מפותחים ביותר בעולם התרבות של שירת ערב, כמעט שלא הגיעו אלינו מפרי עטם של משוררים עבריים. יוצרים עבריים דבקו בפואטיקה הזרה באופן הדוק בכתיבתם השירית, אבל לא נטו משום מה לנסח את כלליה בחיבורים מיוחדים. בספר זה שחזר יהלום את אחד מחיבורי הפואטיקה העברית הבודדים ששרדו. החיבור נכתב במזרח במאה השלוש-עשרה בערבית-יהודית בידי מחבר עברי שהשאיר את רישומו גם בשירה, והוא צירף לו אפרט גדול של מקבילות מעולמה של הפואטיקה הערבית בת הזמן. החיבור חשוב הן להכרת עולמו התרבותי הכללי של המשורר והן להכרת עולמו התרבותי היהודי הניכר בבתי השיר הרבים, הערביים והעבריים, שהוא מכיר ומצטט.
אז באין כול: סדר העבודה הארץ-ישראלי הקדום ליום הכיפורים.
בספר זה משחזר יהלום את אחד מסדרי העבודה המונומנטליים הקדומים ביותר והיפים ביותר. הטקסט זוכה לפרסום ראשון, והוא מלווה בפירוש מפורט הכולל מקבילות רבות מעולמה של הספרות החיצונית ומעולמם של מדרשי ארץ-ישראל הקדומים. לחיבור מצורף מבוא מקיף הדן במהלך התפתחותו של הסוג הספרותי הליטורגי גם בזמנים מאוחרים, לאחר שלהי הזמן העתיק ובימי הביניים. עניין מיוחד יש בחיבור האנונימי הזה שלא שרד בכתבי יד מחוץ לגניזה, אבל נזכר בכתביהם של מחברים אשכנזיים שבוודאי עוד הכירוהו. שאלת היעלמותו של חיבור כזה מעל מפת ספרותנו מעוררת כמה וכמה שאלות הנידונות במבוא.
שפת השיר של הפיוט הארץ-ישראלי הקדום.
בספר זה בוחן יהלום את הלשון המיוחדת לפיוט שאין מאחוריה לשון דיבור חיה ותוססת, והיא בכל זאת יצירתית באופן בלתי רגיל ובעלת סימני היכר מובהקים של עשייה לשונית המאפיינת התפתחות חיה. ההתרוצצות הסגנונית אופיינית ביותר לשימוש בבנייני הפועל. כך במקום שפעלים עומדים דורשים, על פי הארמית ולשון חכמים המאוחרת, צורות רפלקסיביות ('יתמעט') ואילו לשון המקרא מסתפקת בצורות הקל ('יִמעט') עומד הפייטן המבקש לא רק לציין את הטרנסיטיביות של הפועל, אלא גם להביע זאת בצורה מסוגננת. על פי המהלך המשולב הזה מתאר יהלום את היווצרותן של צורות הפאסיב שאינן מציינות בפיוט רפלקסיביות כי אם את המשמעות העומדת בלבד ('יומעט'). בפיוט עשתה העברית לראשונה וכבר על אדמת ארץ ישראל צעד המאפיין את דרכה גם בהמשך תולדותיה, היא הייתה ללשון הביטוי הרגשי, לשון השיר האקספרסיבית והאקסטאטית במעבר מהשימוש הטבעי בה אל השימוש בה כלשון כתובה במרכזי היצירה בגולה.
פיוטי שמעון בר מגס.