З початком світової війни в Європі — командир II кавалерійського корпусу, що спочатку був у Резерві Головного командування Імперської армії. До складу корпусу фон дер Марвица входили 2-га, 4-та та 9-та кавалерійські дивізії — загалом 12,5 тис. особового складу і 36 гармат. З початком вторгнення до Бельгії його частини вирушали перед правим крилом німецького фронту наступу у смузі 2-ї армії генерала фон Белова. 12 серпня 1914 року корпус бився в битві при Галені на Західному фронті. У вересні очолив кавалерійську групу з двох кавалерійських корпусів, що розгорнулися в районі Аррас-Ланс.