初由吴化文的投共部队组成。吴化文部追根溯源为冯玉祥的西北军。1930年中原大战，冯玉祥战败，韩复榘投靠蒋介石。吴化文追随韩复榘投蒋，任国民革命军第三路军手枪旅旅长兼济南警备司令。1938年初韩复榘死后，该部滞留山东，隶属山东省政府。1939年后隶属鲁苏战区。1940年吴部扩编为新编第四师，吴化文任师长，下属一、二、三团，团长非别为于怀安、赵广兴、杨友柏，驻鲁南临沂地区。后转归沈鸿烈指挥，吴部改称山东保安第1师，吴任师长。其后，吴部开始与共产党八路军发生摩擦。1943年1月18日，吴化文部公开投降汪精