王维群生于山东省冠县王辛村一个贫农家庭。九一八事变爆发后，投身抗日救亡运动。1933年到1934年，在山东省寿张县第八乡师学习期间，参加了中国共产党的活动，于1934年冬参加了中国共产党领导的革命工作，同时加入中国共产党。1935年春到1937年秋，先后在冠县担任中国共产党的支部书记、县工委书记、县委书记、中心县委书记、鲁西北特委委员、组织部部长。1937年秋到1938年夏，在中共中央党校学习并且兼任中队长。1938年夏到1942年春，任中共中央机关总务处管理科长、总务处长、中共中央直属机关管理局建设科科长。1942年春到1944年夏，在中共中央高级党校一部学习，并参加延安整风及审干运动。1944年夏，调到陈云主持的西北财经办事处从事筹备工作，负责建立办事处机关。其间，当选为中共七大代表。1945年4月到6月，作为山东代表团成员出席了中共七大。1945年11月，调到冀鲁豫边区工作，同月到1947年秋历任中共冀鲁豫区第一（泰运）地委委员、宣传部部长兼阳谷县委书记、冀鲁豫区第六（运东）地委委员、组织部部长。1947年9月到1948年5月，担任中共冀鲁豫区濮范（第九）地委副书记兼组织部部长。1948年7月到1949年8月，担任冀鲁豫区第九（濮范）行政督察专员公署专员。1948年9月到1949年8月，担任中共冀鲁豫区濮范（第九）地委书记。