En las primeras etapas de la Segunda Guerra Mundial, como comandante de la 2ª División Panzer, Veiel jugó un papel destacado en la invasión de Polonia en 1939, de Francia en 1940, de Yugoslavia y Grecia en 1941, y de la Unión Soviética en 1941. El 3 de junio de 1940, por sus logros como comandante de la división, Veiel fue galardonado con la Cruz de Caballero de la Cruz de Hierro.