עם גיוסו לצה"ל בשנת 1988 שובץ חרמוני בחטיבת גבעתי בגדוד צבר. בגבעתי עבר מסלול הכשרה כלוחם, קורס מ"כים חי"ר וקורס קציני חי"ר. עם תום הקורס שב לגדוד ושירת כמפקד מחלקה, מפקד פלוגת מסלול ומפקד פלוגת חוד. בהמשך שירת כמפקד האימון המתקדם בבסיס האימונים של החטיבה. בשנים 2000-1998 פיקד על סיירת גבעתי והוביל אותה בלחימה בדרום לבנון. בשנים 2003-2001 שימש כמפקד גדוד צבר, והוביל אותו בלחימה כנגד הטרור הפלסטיני באינתיפאדה השנייה. בתקופה זו השתתף הגדוד תחת פיקודו בלחימה אינטנסיבית ברצועת עזה.