学校第一营营长，后升任师特务团团长。1940年后长期在太行山山区指挥战斗。1944年豫湘桂战役后，皮率部南下河南，任豫西独立支队司令员。抗战胜利后任中原军区第一纵队第一旅旅长。1946年6月底，皮旅掩护中原解放区主力突围，史称“中原突围”，这标志着国共内战的再起。24天内参加23次战役，行程1000多公里。在与国民党20余万军队的围追堵截后，7000人的“皮旅”突围后仍保留5000人，为中原突围中最完整的建制。1947年1月任华东野战军第六纵队副司令员，指挥豫北战役。1949年9月，任第三野战军二十四军