党派、社会团体主要负责人和法学家在内的“中华人民共和国宪法修改委员会”，负责修改订立新宪法。在修宪讨论过程中，宪法修改委员会秘书长胡乔木曾提出将全国人大代表的数量削减至1000人，于全国人大下设立两个院，各500人，使全国人大成为常设机构，以改变人大“橡皮图章”的印象。另有委员提出，仿效苏联最高苏维埃设立联盟院和民族院的制度，“按地区产生的代表组成一院，按行业界别产生的代表组成另一院”。而以邓小平和叶剑英为首的反对者认为，“如果两家意见不一致，协调起来非常麻烦，运作很困难”。最终双方达成折衷，将全国人民代表