春转入上海大学，经同学方木仁介绍加入中国共产党。1927年4月由上海地方党组织派往苏联东方劳动者共产主义大学留学，又被选入苏联格鲁乌学校受训。1928年返回上海，在中共中央特科特一科（总务科）工作。在此期间，李曾经被上海公共租界工部局巡捕房逮捕，后托庇于青帮大佬季云卿门下而得以脱身。1932年，李士群被中统逮捕，旋即表面背叛中共、投靠中国国民党，后被委派为中统上海区直属情报员，与丁默邨、唐惠民等人合办《社会新闻》。1933年，李因涉及中统上海地区负责人马绍武【史济美，化名马绍武】被中国共产党特科暗杀一案