יודל נפגש לראשונה עם אדולף היטלר בשנת 1923. הוא קודם באופן רגיל ובשנת 1935 מונה למפקד ההגנה הלאומית באו.ק.וו.. בשנים שלפני מלחמת העולם השנייה מונה לתפקידים מבצעיים שונים, אך מחודש אוגוסט 1939 שימש בתפקיד ראש המבצעים של האו.ק.וו. (הפיקוד העליון על הכוחות המזוינים). יודל היה דמות מפתח במבצעים הגרמנים מאז ואילך. הוא נפצע במהלך קשר העשרים ביולי, והוכיח את נאמנותו המלאה לאדולף היטלר.