Al començament de la Primera Guerra Mundial se li donà el comandament del primer exèrcit, amb l'objectiu de penetrar a Prússia Oriental des del nord-est, combinant el moviment amb l'atac del segon exèrcit de Samsónov des del sud-oest. Malgrat uns èxits inicials, l'enemistat personal amb Samsónov i una conducció mediocre del pla d'atac, dugué al fracàs de l'ofensiva russa i al desastre de la batalla de Tannenberg. Posteriorment els fracassos a la Primera Batalla dels Llacs Masurians i a la batalla de Łódź provocaren que l'estat major rus rellevés a Rennenkampf del seu càrrec, fins i tot amb acusacions de traïció pel seu origen germànic. El 6 d'octubre de 1915 dimití i durant la revolució de febrer fou empresonat. Durant la revolució d'octubre sortí de la presó i s'amagà a la ciutat de Taganrog, a la vora del Mar d'Azov, on visqué sota el fals nom de Mandusakis. Tot i així fou descobert pels bolxevics el 16 de març de 1918, que li oferiren un comandament a l'Exèrcit Roig; Rennenkampf refusà i fou arrestat i executat l'1 d'abril d'aquell any.