Zu Beginn des Ersten Weltkrieges erhielt Rennenkampff das Kommando über die 1. Armee am Njemen, die am Nordabschnitt der Ostfront zur Invasion Ostpreußens bestimmt war. Am 17. August überschritten seine Truppen die Grenze bei Stallupönen und drängten die deutsche 8. Armee in der Schlacht bei Gumbinnen zurück. Zu scharfer Kritik von Seiten des russischen Armee-Oberkommandos und des Zaren führte sein Verhalten während der Schlacht bei Tannenberg Ende August 1914, insbesondere die aus der Feindschaft der Befehlshaber herrührende mangelnde Koordination mit der russischen 2. Armee unter General Samsonow. Nach einer weiteren Niederlage in der Schlacht an den Masurischen Seen musste man bis zum Fluss Angerapp zurückweichen. Nach der Verlegung seiner Armee in den Raum nördlich Warschau konnten seine Truppen zwischen dem 16. und dem 22. November einen Angriff der deutschen 9. Armee auf Lodz abschnüren. Die Vernichtung eines eingekesselten deutschen Korps am 24. November gelang wegen des vorzeitigen Zurückgehens seiner Truppen nicht mehr. Vom übergeordneten Oberbefehlshaber der Nordwestfront, General Russki, verantwortlich gemacht, verlor er darauf das Kommando über die 1. Armee. Ende 1914 quittierte er den Dienst in der Armee, nachdem ihm Inkompetenz und aufgrund seiner deutschbaltischen Herkunft sogar Landesverrat vorgeworfen worden war. Er zog sich vollkommen aus dem öffentlichen Leben zurück und zog an das Schwarze Meer. Insgesamt diente er über 40 Jahre in der russischen Armee.