着游泳，被抛来抛去死死抓住马鬃坚持到上岸，差一点被卷入山洪激流中溺亡。率部与山东主力部队内外线配合作战，至1947年底将鲁南地区全部收复。张劲夫回忆时认为回鲁南打游击，是其军旅生涯中最有收获的一次锻炼。1948年初任鲁中南行政公署副主任，负责支前工作。淮海战役时，任华东军区支前司令部粮食部长兼前方办事处主任。淮海战役结束后，成立安徽省委，宋任穷任书记兼省长，张劲夫任副省长，主要任务是动员安徽人民支援大军过江。1949年4月，安徽省委即撤销，随大军过江接管城市，宋任穷去南京，1949年5月3日张劲夫任中共杭州