建立军衔制度已成为解放军亟需面对的问题。由于人民共和国成立不久后就与苏联结盟，中国掀起了向苏联学习的高潮，解放军也不例外，重新开始了对军衔制度的酝酿，而这一酝酿过程在很大程度上借鉴了苏联军衔制度的经验。1950年7月4日，中央人民政府人民革命军事委员会总政治部主任兼总干部管理部（筹建中）部长罗荣桓在中央军委部长会议上发言时提起军衔问题，表示拟在总干部管理部编制内增设军衔奖励处，并准备把评定全军指战员的军衔作为1951年的首要任务。同年9月，总干部管理部正式成立，同时成立的还有管理全军军衔工作的专门机构——军