זרואל נולד בבתאנה. בשנת 1957 הוא הצטרף לצבא השחרור הלאומי כדי להילחם בשלטון הצרפתי באלג'יריה. בשנת 1975 הוא מונה למפקד בית ספר צבאי בבאתנה ובשנת 1981 מונה למפקד של האקדמיה הצבאית בעיר שרשל. הוא פיקד גם בתמנרסת בשנת 1982, לאחר מכן בשנת 1984 בגבול עם מרוקו ובקונסטנטין בשנת 1987. ב-1988 הוא הפך לגנרל. הוא פרש מן הצבא ב-1990 וזמן קצר לאחר מכן הפך לשגריר המדינה ברומניה. הקריירה הפוליטית שלו התחזקה לאחר ההפיכה הצבאית שהתחוללה במדינה ב-1992. בשנת 1993 הוא מונה לשר הביטחון וב-1994 הוא קודם לעמוד בראש הוועד העליון של המדינה והפך על ידי כך לנשיא הרפובליקה (בפועל) . הוא נבחר לנשיא בבחירות בשנת 1995. לאחר קדנציה אחת הוא בחר שלא להתמודד לקדנציה נוספת ואף הקדים את הבחירות בשל מלחמת האזרחים האלג'יראית שהתחוללה באותה עת. בבחירות באלג'יריה בשנת 2009 הוא שקל לחזור ולהתמודד מול עבד אל-עזיז בותפליקה אך לבסוף החליט שלא לרוץ.