Randow tomó parte en la invasión de Polonia en 1939 como comandante del Regimiento de Caballería n.º 13. El 26 de octubre de 1939, tomó el control como comandante del Regimiento de Infantería n.º 26 y participó en la campaña en Francia. En 1941 tomó parte en la invasión de la Unión Soviética como comandante de la 2ª Brigada de Caballería dentro de la 1ª División de Caballería. Recibió la "Cruz Alemana en Oro".