和手工业生产，清剿土匪强盗。魏伯亲自带领解放军和民兵清剿盘踞在市郊盘龙山的何宣勤匪部。1951年4月城乡匪患消除后，魏伯运用老解放区实行土地改革的经验，领导、组织完成了郊区18个行政村的土地所有制改革。1951年10月，魏伯代理中共柳州市委书记（书记陈枫因病离职治疗），随后领导了三反五反运动。他还兼任市财经委员会主任，常到企业调查研究、指导工作。1953年1月，魏伯任中共柳州市委书记兼市长，执行第一个经济建设的五年计划。1954年6月，魏伯调离柳州，任中共广西省委工业部副部长，不久又先后调任武汉钢铁公司