Keď sa v auguste 1944 začal západný front rútiť a Kluge spáchal samovraždu, von Rundstedta povolali v septembri 1944 späť na západný front, teraz do funkcie veliteľa Modelovho štábu. Dosiahol posledný skutočný úspech na západnom fronte, keď sa mu podarilo zmariť Montgomeryho veľkoryso naplánovanú ale zle uskutočnenú operáciu Market Garden. V tom čase si však už bol vedomý, že išlo iba o labutiu pieseň jeho armády. Onedlho dostal poverenie na uskutočnenie útoku v Ardenách, sám ale neveril, že útok bude úspešný a zúfalo sa pokúšal Hitlera presvedčiť, že ide o holé šialenstvo. Počas bojov si uvedomil, že jeho vrchný veliteľ už stratil pojem o skutočnom stave na fronte. Bitka o Ardeny sa nakoniec skončila nemeckým neúspechom, presne tak ako predpokladal. V marci 1945 bol definitívne odvolaný z funkcie pre „porazeneckú náladu“. 1. mája 1945 ho zajala americká armáda v Bavorsku.