Maos avvisning av å la Lin få ytterligere innflytelse innen parti og regjering gjorde at Lin ble svært indignert. Samtidig krympet hans maktgrunnlag innen partiapparatet. Lin bestemte seg da for å gjøre bruk av den militærmakt som fremdeles stod til hans disposisjon for å styrte Mao ved militærkupp. Kort tid etter dannet Lin og hans sønn Lin Liguo og andre medsammensvorne et kuppapparat i Shanghai hvis mål var å fjerne Mao med makt. I et dokument som er blitt kjent fra denne tiden fremgår det at Lin i Shanghai fremholdt at «En ny maktkamp har skyllet opp rundt oss, dersom vi ikke skulle klare å gripe kontrollen over den revolusjonære virksomhet, vil denne kontrollmakt tilfalle noen andre».