På 1960-tallet led forsvarsministeren Lin Biao av dårlig helse, og han lot derfor Luo ta seg av en rekke av sine arbeidsoppgaver. Omkring 1964 begynte Lin å få mistanker mot Luo og i samband med at Mao forberedte kulturrevolusjonen fikk Lin tillatelse til å rense ut Luo i bytte mot sin støtte i Maos kamp mot sine rivaler i partiet. I desember 1965 avsatte politbyråets stående komite ham fra hans post som stabssjef og han ble utsatt for fysisk och psykisk tortur av rødegardister. Han ble brennemerket som tilgørende det de kulturrevolusjobære kalte «Peng-Luo-Lu-Yang anti-parti-klikken» (sammen Peng Zhen, Lu Dingyi og Yang Shangkun). Kritikksesjonene og brutaliteten drev ham til et selvmordsforsøk ved å hoppe fra en bygning i april 1966.