עם גיוסו לצה"ל בשנת 1980 שובץ בחטיבת גולני. בן זאב עבר את הגיבוש ליחידות החטיבתיות והתקבל לסיירת גולני. בגולני עבר מסלול הכשרה כלוחם, קורס מ"כים חי"ר ולחם במלחמת לבנון הראשונה, בין היתר בקרב על הבופור. בהמשך השלים קורס קציני חי"ר. עם סיום הקורס שב לחטיבה ושימש כמפקד מחלקה ומפקד פלוגה. לאחר מכן שימש כמפקד פלחה"ן גולני והוביל אותה בלחימה בדרום לבנון. במהלך תפקידו כמפקד הפלחה"ן, שימש בן זאב במבצע כחול וחום כסגנו של מפקד המבצע שכיהן אז כמפקד גדוד 12. בהמשך שימש כסגן מפקד גדוד 13 (גדעון) בתקופת גדי איזנקוט, ובהמשך מונה למפקד גדוד 51, ולאחר מכן לסגן מפקד חטיבת גולני. לאחר מכן שימש כמדריך בכיר במכללה הבין-זרועית לפיקוד ולמטה ובשנים 2000-1995 פיקד על חטיבת אלכסנדרוני. בשנת 2002 פרש מצה"ל.