甘泗淇任八路军120师政训处副主任、政治部主任，参与创建晋西北抗日根据地。1940年11月起，甘泗淇兼任晋西北军区政治部主任、中共中央晋绥分局委员，协助贺龙和关向应组织反扫荡、反蚕食、反治安强化运动等作战，并参与组织精简整编工作。1942年起，甘泗淇任晋绥军区政治部主任，陕甘宁晋绥联防军政治部副主任、主任。分别参与组织晋绥军区秋季攻势作战、春夏季攻势作战和大反攻，并参与组织部队开展大生产运动，组织举办各级教导队，培训大批新干部。
第二次国共内战时期.第二次国共内战时期，甘泗淇任晋绥