בנובמבר 1958 התגייס לצה"ל ושירת בחיל השריון. במלחמת ששת הימים שימש קצין מבצעים בחטיבה 8, לאחר מכן פיקד על פלוגה ושירת כקצין אג"ם בחטיבה. במרץ 1969 מונה לסגן מפקד גדוד 184 בחטיבה 14 ומילא תפקיד זה במהלך מלחמת ההתשה. הוא פיקד על גדוד 184 בחטיבה 14 עד ספטמבר 1973 ומונה לקצין הדרכה במפקדת גייסות השריון בג'וליס. במלחמת יום הכיפורים היה במינוי חירום קצין אג"ם של גייסות השריון, הוא חזר ונטל פיקוד על גדוד 184 ב-10 באוקטובר, לאחר שמפקד הגדוד נהרג בהתקפה על תעוז "טלוויזיה". אלמוג ארגן מחדש את הגדוד, והוביל אותו בלחימה בקרב השריון ב-14 באוקטובר, במבצע אבירי לב ובקרב החווה הסינית. על פועלו עוטר אלמוג בעיטור העוז.