Liu Yalou ble født i Wuping i Fujian-provinsen i Kina. Han ble med i Det kinesiske kommunistiske parti plassert i Jinggangshan-fjellene i august 1929 og deltok i omringningskampanjene på kommunistenes side. Som mange andre senere kommunistledere var også Liu en veteran fra den lange marsjen. Under den andre kinesisk-japanske krigen ble han Lin Biaos sjefsassistent ved Den røde armés universitet i Yennan.