К верхнему строению относятся рельсы, шпалы, рельсовые скрепления, балластный слой (балластная призма). Рельсошпальная решётка состоит из двух рельсов, уложенных и прикреплённых к поперечным балкам — шпалам. Возможно крепление на специальные плиты, выполняющие ту же функцию, что и шпалы. Шпалы или плиты обычно укладываются на балластный слой, который может быть двухслойным или однослойным. Чаще используется двухслойная балластная призма, состоящая из основного слоя — щебня твёрдых пород, и расположенной под ним песчаной или песчано-гравийной подушки. Однослойная балластная призма может быть из щебня, песчано-гравийной смеси, отходов асбестового производства, песка, ракушечника, шлака. На мостах различаются балластная конструкция (на пролёте устраиваются специальные корыта для размещения балласта) и безбалластная — когда мостовые брусья или плиты крепятся непосредственно на мостовые конструкции.
Как обычно укладывают шпалы?