כהן נולד בשנת 1949 במושבה הגרמנית בירושלים. גדל בבית דתי. לאחר מלחמת ששת הימים התגייס לצה"ל והתנדב לצנחנים. בצנחנים עבר מסלול הכשרה כלוחם, קורס מ"כים חי"ר וקורס קציני חי"ר. בסיום הקורס מונה למפקד מחלקה בצנחנים. במלחמת יום הכיפורים היה מפקד מחלקה בפלוגת ההנדסה החטיבתית של חטיבת המילואים של הצנחנים 247. הפלוגה הייתה הראשונה לצלוח את תעלת סואץ במסגרת מבצע אבירי לב וכהן היה הראשון לדרוך על אדמת הגדה המערבית של התעלה. בשירות המילואים הגיע לדרגת סגן-אלוף.