אלון, יליד מֶסְחָה (כפר תבור), שהגן על שדות המושבה עוד מנעוריו, הצטרף לאחר מכן לקיבוץ גינוסר ולתנועת העבודה, שהייתה עבורו שינוי אידאולוגי מבית גידולו. בימי המרד הערבי התגייס ל"הגנה" בתור נוטר ולוחם פו"ש ולאחר מכן לפלמ"ח, שם התבלט כמפקד פלוגה ומפקד יחידת מסתערבים בסוריה, והגיע לפיקוד על הפלמ"ח כתלמידו של יצחק שדה ומגשים חזונו. כמפקד בפלמ"ח עסק בגידולו של הארגון ובארגונו בגדודים, ובעידוד חבריו בתקופה קשה לארגון, אל מול הגיוס לצבא הבריטי במלחמת העולם השנייה. במסגרת תנועת המרי העברי לאחר המלחמה, הוא תכנן ויישם מבצעים נועזים דוגמת ליל הגשרים ופעולות נגד חסימת נתיבי העפלה לארץ. במלחמת העצמאות פיקד אלון על המבצעים לכיבוש הגליל, לוד ורמלה, עמד בראש חזית הדרום ופיקד על כיבוש כל הנגב עד לאילת. הוא התגלה כטקטיקן מוכשר, הדוגל בהפתעת האויב בדרכים עקיפות ולא צפויות, ומוכן לקחת סיכונים לשם כך.