爆发后，1937年9月康世恩在八路军驻太原办事处与饶斌、戴金川等一批大学生参军，编入路过太原北上抗日的八路军一二〇师，为师民运部工作队队员，到岢岚县鸡儿坞村发动群众，组织了100多人的抗日武装自卫队，任连长兼指导员。1937年11月，随一二〇师民运部长罗贵波调任新组建的晋西北区党委，任警卫连指导员。1938年1月任山西朔县战地动员委员会（动委会）主任、牺盟会朔县特派员、中共县委统战部部长，经受了开展群众工作的丰富锻炼。1939年2月调任山西决死四纵队游击六团组织股股长。后任晋西北区委太原区地委组织部长、牺盟