和红四方面军在懋功会师后，调任红四方面军红三十一军参谋长。1936年，调任红九军参谋长，参与西路军作战。1937年2月，西路军失败后，只身一人千里行乞返回延安。
抗日战争与第二次国共内战时期.1937年抗日战争爆发，李被任命为八路军129师386旅参谋长，赴山西参战。参与长生口战斗、神头岭战斗、响堂铺战斗、晋东南反九路围攻战役。1938年，李聚奎任129师青年抗日游击纵队政治委员，改造投奔八路军的段海洲部。后任鲁西北先遣纵队司令员兼政治委员，指挥莘县战斗，在鲁西北开辟根据地。194