参与西路军作战。1937年2月，西路军失败后，只身一人千里行乞返回延安。
抗日战争与第二次国共内战时期.1937年抗日战争爆发，李被任命为八路军129师386旅参谋长，赴山西参战。参与长生口战斗、神头岭战斗、响堂铺战斗、晋东南反九路围攻战役。1938年，李聚奎任129师青年抗日游击纵队政治委员，改造投奔八路军的段海洲部。后任鲁西北先遣纵队司令员兼政治委员，指挥莘县战斗，在鲁西北开辟根据地。1940年，李聚奎任山西青年抗敌决死队第一纵队副司令员，参与百团大战。1942年，决死队1纵队