En 1938 fue reasignado al Heer y actuó como Comandante de División en los Balcanes, en Noruega y luego en el cruento Frente Oriental. A inicios de 1944, Hitler ordenó a Rendulic que diseñara un plan para capturar al líder partisano yugoslavo Tito. El 25 de mayo de 1944 se inició la Operación Rösselsprung, ejecutada por el legendario Otto Skorzeny. A pesar de que un ataque de paracaidistas logró tomar el cuartel general de Tito, éste logró escapar.