Den 7. november 1984 presiderte ikke Ustinov på den årlige militærparaden på Den røde plass på årsdagen for den sosialistiske oktoberrevolusjonen. Første viseforsvarsminister marskalk Sergej Sokolov erstattet ham både når det gjaldt å inspisere troppene og å holde minnetalen. Ustinov hadde fått lungebetennelse i slutten av oktober, og akutt operasjon måtte utføres for å korrigere en aneurysme i hans aortaklaffer. Hans lever og nyrer forverret seg senere, og han avgikk med døden ved hjertestans. Ustinov ble hedret med en statsbegravelse, og hans aske er begravd i Kremlmuren i Moskva.