远赴广州，开始接受马克思主义。1919年赴法国勤工俭学。1921年从法国转赴德国柏林。1922年初与当时也在德国的周恩来和赵世炎等筹建“旅欧中国少年共产党”，同年6月在巴黎成立后，张伯简被选为组织委员，由此成为白族第一个共产党员。1922年，受党委派前往苏联参加“共产国际第四次代表大会”，后留在苏联莫斯科中山大学学习。1923年秋天回到中国，在上海和蔡和森，邓中夏一起领导工人运动。同时应瞿秋白的邀请，在上海大学任政治经济学教授。1924年出任中央出版局书记。1925年调至广州，任两广区委军委书记和第六届