1956 wurde er von Mao-tse-Tung zum Vizeminister für Verteidigung und in Personalunion zum Generalstabschef der Volksbefreiungsarmee ernannt. Ebenso wurde ihm die direkte Aufsicht über den Militärisch-Industriellen Komplex der Volksrepublik übertragen. In seine Amtszeit fiel mit dem ersten Kernwaffentest 1964 dessen größter Erfolg. Zusammen mit Mao und Yang Chengwu gehörte Luo Ruiqui zu den Proponenten einer "Hinterland"-Strategie. Durch den Rückzug von Schlüsselindustrien und militärischer Installationen in die Binnengebiete Chinas könne China einen Atomkrieg gegen die Sowjetunion oder die USA erfolgreich führen. Aufgrund schwindender Gesundheit gab Verteidigungsminister Lin Biao die tagesaktuelle Leitung der "Zentralen Militärkommission" an Luo Ruiqing ab. Dieser erfüllte diese in einem eigens geschaffenem Subkomitee. In seine Zeit als Generalstabschef fiel auch der Indisch-Chinesischer Grenzkrieg.