יובל התרכז בראשית עבודתו המחקרית בתולדות היהודים בגרמניה בימי הביניים. הוא החל בתולדות הרבנות האשכנזית, ובה עוסק ספרו הראשון ""חכמים בדורם: המנהיגות הרוחנית של יהודי גרמניה בשלהי ימי הביניים"", הוצאת מאגנס, 1988. כמו כן חקר את ההיסטוריה האינטלקטואלית של יהודי גרמניה, את חיי המשפחה שלהם ואת יחסיהם עם הסביבה הנוצרית. בשנות התשעים פנה יותר ויותר לחקר היחסים בין הנצרות ליהדות החל במאה הראשונה לספירה ועד שלהי ימי הביניים. בנושא זה עוסק ספרו השני: ""שני גויים בבטנך: יהודים ונוצרים – דימויים הדדיים"", שראה אור בהוצאת עם עובד בשנת 2000.