עם שחרורו מהכלא בשנת 2011, עלוש יצר במהרה קשרים עם חבריו מהכלא וילידי דמשק וע'וטה כדי להקים ארגון לוחם שילחם במשטר לאחר הפגנות לא אלימות שהתרחשו עד אז מצד תושבי סוריה הסונים שנתקלו באלימות של הצבא הסורי. הארגון שהוקם על ידי 16 לוחמים קיבל את השם "פלוגת האסלאם" והוא התפתח במהירות, כשעד יוני 2012 הוא התאחד עם מספר קבוצות נוספות שכונו יחד "חטיבת האסלאם". במקביל התקריות האלימות בין הצבא הסורי למיליציות הסוניות בסוריה הידרדרו לכדי מלחמת אזרחים וכוחו של ארגונו של עלוש עלה בהדרגה בתור הגורם הלוחמני החזק ביותר באזור מרחב דמשק נגד כוחות אסד. במהלך אותו זמן עלוש שיתף פעולה עם ארגונים אחרים באזור דמשק כחלק מברית חזית השחרור האסלאמית הסורית, ומלבד תפקידו כמפקד בכיר בה הוא גם שימש כדוברה. הקפיצה הרצינית של ארגונו של עלוש התרחשה באוגוסט של שנת 2013. באותו זמן אסד ביצע את המתקפה הכימית בע'וטה בניסיון לעקור מהאזור את המורדים - מה שגרם למאות נפגעים. אירוע זה זירז את הצורך באיחוד כמה שיותר ארגוני מורדים באזור דמשק ליצירת חזית מאוחדת ומוצלחת נגד המשטר. בספטמבר 2013, ארגוני המורדים ברחבי דמשק הודיעו על הקמת צבא האסלאם - ארגון שלתוכו התאחדו למעלה מ-50 פלגים חמושים ואשר היו פרוסים בכל רחבי סוריה בהנהגת זהראן עלוש; הם כללו יחדיו 64 גדודים ו-27 משרדי מנהלה ובסביבות 25,000 לוחמים. במקביל, ארגונים רבים התמזגו יחד עם ארגון אחראר א-שאם - כך ששני הארגונים הללו היו מארגוני המורדים החזקים בסוריה. חזית השחרור האסלאמית התפרקה וב-22 בנובמבר 2013 הוקמה תחתיה החזית האסלאמית בה היו דומיננטיים 3 ארגונים גדולים: צבא האסלאם של עלוש, אחראר א-שאם של חסן עבוד וצ'וקור א-שאם של אחמד אבו עיסא. סך הלוחמים שפעלו תחת החזית מוערך בכ-70,000 לוחמים.