Grunnloven, tatt i bruk i 1924, satte opp et føderalt system med et lag av sovjeter (råd) i landsbyer, fabrikker og større byer. Denne pyramiden kulminerte i en sovjetkongress for hele unionen. Sovjetkongressen hadde på papiret all makt, men var i praksis styrt av Sovjetunionens kommunistiske parti, som igjen var kontrollert fra toppen av Politbyrået i Moskva.