Hans mest innflytelsesrike periode skulle imidlertid bli under kulturrevolusjonen, og også hans kone Cao Yiou spilte med på hans opplegg. Da Mao Zedong startet kulturrevolusjonen, ble Kang Sheng en av vinnerne i den interne maktkampen i partiet. Han ble i mai 1966 rådgiver til den av Mao spesielt opprettede (der blant også Jiang Qing og Chen Boda var med) og fikk hovedansvaret for å utrede forskjellige påståtte politiske forbrytelser i partiets ledersjikt. Ved den åttende sentralkomitéens ellevte plenum i august samme år ble han innvalgt i politbyråets stående råd, og etter den niende partikongress i april 1969 ble han rangert som nummer fem i partihierarkiet.