Plehve ble plaget i årevis av stadig dårligere helse og han ble pensjonert fra den russiske hæren i februar 1916. Plehve døde senere samme år som han ble permittert fra det russiske militæret.