I 96 ble han knivstukket og drept av en sammensvergelse som omfattet hans hustru Longina og flere offiserer. En skriver hadde gått med ene armen bandasjert i flere dager, med en dolk gjemt inni. Hæren sørget over ham, men senatet var fornøyd med at skrekkveldet var over, og at neste keiser skulle bli senatoren Nerva.