1950年6月30日,中央人民政府人民革命军事委员会为加强和统一对民兵的领导,决定成立人民武装部。当时民兵已发展到550万人以上。1951年3月人民革命军事委员会决定地方县以上政府设立人民武装部,乡或行政村设民兵队部。到1952年底,各级人武部已陆续建立1.7万个,人民武装干部6.3万多人。 1955年开始实行义务兵役制后重点抓了预备役建设。1957年6月,军委发出《关于改进兵役工作的指示》,将民兵和预备役合二为一。同年10月,张爱萍在全国兵役工作会议上说,中国的兵役制度就是义务兵役制,其预备役的组织形式就是现有的民兵组织。1958年,全国大办民兵师又完全否定了预备役制度。1961年12月11日,中共中央、国务院颁布《民兵工作条例》(1978年,经中共中央批准颁发了重新修改的《民兵工作条例》;1990年12月24日,国务院、中央军委颁发了重新修订的《民兵工作条例》)。1962年6月19日,毛泽东发出“民兵工作要做到组织落实、政治落实、军事落实”的指示,使民兵工作在全国出现了新的局面。自1981年开始至1983年3月,全国民兵组织进行调整改革才全部结束,将民兵的年龄压缩为18岁至35岁;并明确规定基干民兵为一类预备役,普通民兵为二级预备役。1984年5月,全国人大通过的兵役法确定了民兵与预备役相结合的后备力量建设制度。1992年5月中下旬,在烟台举行了新中国成立以来第一次专门研究全国基层民兵、预备役部队建设情况的会议。