塾读书，1920年考入姜山高等小学，1924年底高小毕业。1925年初春前往上海求学，考入暨南大学，攻读政治经济学。大学期间，李伯颜开始接触共产主义思想，五卅运动时积极参与了示威游行活动。1926年春，李伯颜加入中国共产党。1927年4月12日，四一二事件爆发，中共的各级组织遭受严重破坏，被迫转入地下活动。八七会议后，中共中央临时政治局决定整顿恢复各级组织活动。11月，李伯颜被派遣回山东活动。12月13日，李伯颜到达济南，通过孙耀臣与中共山东省委接上关系。孙耀臣是中共党员，在济南军官学校就读，是李伯颜的