С началом Первой мировой войны 2 августа 1914 года назначен командующим 8-й германской армией, имевшей задачей оборону Восточной Пруссии от России. После поражения у Гумбинена-Гольдапа от 1-й русской армии Ренненкампфа предложил германскому верховному командованию отвести войска за Вислу и оставить Восточную Пруссию. После этого был отстранён от командования 8-й армией и заменен генералом Гинденбургом.