本投降后，他出任中共察哈尔省委副书记并主持工作。1947年，任中共察哈尔省委书记。1948年5月，他带领千余名干部南下豫西。6月1日，中共豫西区委、行政公署在鲁山县城成立。张玺为区党委书记，刘杰为第二书记。6月7日，中原军区司令员刘伯承宣布成立豫西军区，韩钧被任命为军区司令员（因病未任），李成芳为代司令员，文建武、孔从周任副司令员；张玺兼任豫西军区政委，刘杰、裴孟飞、雷荣天为副政委。之后，刘杰协助张玺等人在豫西开展土地改革。1948年10月24日，解放军第二次攻占开封，中原局决定成立开封特别市委，由豫皖苏中