第十九军高桂滋部参加北伐，兵败河南后，转驻皖北休整，在太和县转为中共党员（魏野畴、张友清为介绍人）。1928年初，高部改为第四十七军，并开始清党，李被亦驻皖北休整的第十军杨虎城部政治部主任魏野畴安排到十军。同年，担任中共皖北临时特委委员，同临时特委书记魏野畴，委员高望东、胡英初、蔡甲午等共同领导皖北中共活动。同年4月的阜阳暴动中，李负责组织行流集、王官集和插花地区赤卫队及农民协会的工作。暴动后，4月9日成立皖北苏维埃政府和工农革命军，李任皖北苏维埃政府副主席。暴动失败后，他继续在皖北各地从事党的活动。后