Chen Yun kom fra distriktet Qingpu i Shanghai og var en av de få lederne i Det kinesiske kommunistiske parti som kom fra arbeiderklassen. Han gikk med i partiet i 1925 og begynte sin politiske livsbane som organisator blant arbeidere i Shanghai.