בשנת 1962 התגייס לצה"ל, התנדב לצנחנים, ושובץ בגדוד 890. בצנחנים עבר רפאלי מסלול הכשרה כלוחם, קורס מ"כים חי"ר וקורס קציני חי"ר. עם סיום הקורס שב לחטיבה ושימש כמפקד מחלקה ופלוגה בחטיבה ולחם במלחמת ששת הימים ומלחמת ההתשה. ובמלחמת יום הכיפורים לחם כקצין אג"ם של חטיבת צנחנים מילואים 317 והשתתף בכיבוש החרמון הסורי.