En av grunnleggerne av Det indokinesiske kommunistparti, Trần Phú, ble partiets første generalsekretær. Året etter ble han fengslet av de franske kolonistyresmaktene for antifransk virksomhet, og døde i fengsel samme år. Trầns etterfølger var Lê Hồng Phong som ledet partiet. Hà Huy Tập, den tredje generalsekretæren ble fjernet fra stillingen i mars 1938 og arrestert av myndighetene i mai. Den fjerde generalsekretæren, Nguyễn Văn Cừ, ble arrestert av myndighetene i juni 1940 og henrettet ved skyting 25. mai 1941. Han ble etterfulgt av Trường Chinh i mai 1941. En artikkel i partiavisen («Folket») 25. mars 1951 beskrev Trườngs rolle i partiet som «byggeren og kommandanten» av revolusjonen, mens Hô Chí Minh ble referert til som «den vietnamesiske revolusjonens og motstandens sjel». Trường ble fjernet som i 1956 etter den mislykkede og blodige landreformen i Nord-Vietnam. Hô overtok da som , men utnevnt raskt Lê Duẩn som fungerende . Lê ble valgt til stillingen i 1960, og sto bare under Hô til dennes død 2. september 1969.