人民政府人民革命军事委员会，华北军区第一副司令员徐向前任总参谋长，华北军区司令员聂荣臻任副总参谋长，但是并未设置总参谋部。1950年，徐向前因生病，总参谋长一职由聂荣臻代理。次年10月，中央人民政府人民革命军事委员会调第三野战军副司令员兼华东军区副司令员粟裕任副总参谋长；1952年10月，又调湖南省委书记黄克诚、第一野战军副司令员张宗逊担任副总参谋长。同年年底，召开第一次参谋长联席会议，确定中国人民解放军建设方针。1953年2月，李克农担任副总参谋长。1954年10月，设立中国人民解放军总参谋部，粟裕担