אל-עדנאני נולד בשנת 1977 בעיירה בינש באזורים הכפריים של נפת אידליב במערב סוריה. לאמו קראו ח'דיג'ה חאמד. בצעירותו הוא זומן לחקירה מספר פעמים ואף נעצר על ידי מנהל המודיעין הכללי הסורי לפחות שלוש פעמים; באחת הפעמים הוא נעצר באל-בוכמאל כאשר ניסה לראשונה לחצות לשטח עיראק. הוא בילה מספר חודשים בכלא ולבסוף שוחרר לאחר שסירב למסור מידע למרות העינויים. על פי הביוגרפיה פרי עטו של טורקי אל-בינאלי (מופתי בחרייני של המדינה האסלאמית), אל-עדנאני החל את חייו בתור טרוריסט בשנת 2000. מפקדו הראשון היה אבו אנס א-שאמי, מבכירי ארגון א-תוחיד. הוא נשבע אמונים לאבו מוסעב א-זרקאווי, יחד עם שלושים וחמישה פעילים אחרים מסוריה, כשבתוכניתם היה להילחם במשטרו של בשאר אל-אסד. עם זאת, לאחר הפלישה האמריקנית לעיראק התוכניות השתנו, ואל-עדנאני הפך לאחד הלוחמים הזרים הראשונים בעיראק שנלחם בכוחות הקואליציה בעיראק. בשנת 2004 היה אחד מאחרוני הלוחמים שנסוגו מהעיר פלוג'ה לאחר קרב עיקש עם הכוחות האמריקנים. במאי 2005 נעצר על ידי כוחות הקואליציה במחוז אל-אנבאר בעיראק תחת שם בדוי, "יאסר ח'לף חוסיין נזאל א-ראווי", והוא שוחרר סופית בשנת 2010. פקיד במודיעין העיראקי טען שהוא משתמש במספר רב של שמות בדויים כמו "ג'אבר טאהא פלאח", "אבו מוחמד אל-עדנאני", "טהא אל באנשי", "אבו בכר אל-ח'טאב", ו"אבו סאדק אל-ראווי". לאחר שחרורו הוא חי בעיר חדית'ה במחוז אל-אנבאר במערב עיראק, שהייתה כר פורה עבור ג'יהאדיסטים של ארגון אל-קאעידה בעיראק.