朱富胜抽下来，为地主干农活。1938年，中共山东省委和山东抗日军政领导机关抵达沂蒙山区。在八路军山东纵队八支工作团的发动下，沂南县一带民众响应中共号召，纷纷投入抗日运动，各抗日团体纷纷成立，区、乡抗日民主政权陆续产生。1940年10月，朱富胜加入中国共产党，随后被选为后交良村村长。1941年起，抗日战争进入最艰苦阶段。1941年冬，日伪军集结5万兵力，对沂蒙根据地实行“铁壁合围”大扫荡，无论是规模和时间还是手段之残忍，都堪称空前。朱富胜与东河村民兵英雄张秀海组织了20多人的游击小组，在沂河两岸开展联