בקיץ 1936, עוד בטרם סיים את לימודיו ב'כדורי', החל גל פעולות איבה של הערבים בארץ (המרד הערבי הגדול). בתגובה למאורעות אלה התגייס אלון לנוטרות – כוח הגנה על היישובים העבריים שהוקם באותה עת בחסות בריטית. הוא ביצע הגנה ניידת בלילות באזור הגליל התחתון על גבי טנדרים בפיקודו של נחום שדמי, ועד מהרה התבלט והתמנה למפקד טנדר ועליו צוות נוטרים, שהגן על גוש טבריה. ב-1937 פגש במסחה ביצחק שדה, שגייס באותה עת צעירים לפלוגות השדה (הפו"ש) שהקים במסגרת ארגון "ההגנה", והגיע למסחה לאחר ששמע על מפקד הנוטרים הצעיר. שדה הורה לו לאסוף את חבריו, וכולם יצאו למארב לילי ליד אחד מכפרי הערבים בסביבה. לאחר מכן שטח את מטרתו בפניהם – יציאה למארבים והתקפות בכפרים ערביים בשעות הלילה, על מנת להקשות על הערבים לתקוף את היישובים היהודיים. "אם נשכיל לשנות את התכסיסים, הערבים יעברו למגננה ויצומצם כוח ההגנה שלנו. לא נלך בדרכי רצח ולא נפעיל טרור אישי" אמר להם. רעיון זה הרשים מאוד את הצעירים ובמיוחד את אלון: "רסיסי מחשבה שהתרוצצו זמן רב בראשנו התגבשו לפתע לדוקטרינה שלמה" אמר. מכאן ואילך, הפך שדה לחונכו ומפקדו של אלון למשך שנים ארוכות.