955年3月21日至1959年12月第二次出任主管装备的国防部副部长。1959年8月5日军衔升为炮兵主帅。1959年12月担任新成立的苏联战略火箭军首任司令。1960年10月24日，在他负责的R-16洲际弹道导弹发射试验时，由于火箭第二级发射故障造成燃料外泄燃烧，坐在发射现场不远的涅杰林当场身亡尸骨无存，只有肩章、钥匙等金属物残留下来，这场事故有时也被称作涅杰林灾难。为了掩盖事故真相，苏联对外宣称涅杰林死于飞机事故，直到戈尔巴乔夫时代才公布了真相。涅杰林死后其部分遗物被埋入克里姆林宫红场墓园。