同年6月在巴黎成立后，张伯简被选为组织委员，由此成为白族第一个共产党员。1922年，受党委派前往苏联参加“共产国际第四次代表大会”，后留在苏联莫斯科中山大学学习。1923年秋天回到中国，在上海和蔡和森，邓中夏一起领导工人运动。同时应瞿秋白的邀请，在上海大学任政治经济学教授。1924年出任中央出版局书记。1925年调至广州，任两广区委军委书记和第六届全国农民运动讲习所教员。1925年“五卅惨案”之后，同张太雷，邓中夏，苏兆征等一起领导了省港大罢工，积劳成疾。1926年，肺病复发，病逝于广州珠江“颐养园”。