Los temas que originalmente quedaron fuera de "Music for the Masses" y aparecieron como lados B de los sencillos fueron la canción "Pleasure Little Treasure" y los instrumentales "Agent Orange" y "Stjarna" compuestos también por Gore; así como el cover "Route 66" y una versión en piano de la Sonata núm.