Blant de militære var han mindre populær. I år 97 gjorde pretorianergarden mytteri. De fengslet Nerva i palasset og krevde å få utlevert Petronius og Parthenius, de to tjenere som hadde myrdet Domitian. Selv om Nerva nektet å utlevere dem, grep pretorianerne dem og drepte dem.