I 607 ​​sendte den etterfølgende keiser Yang (569–618) 1.000.000 mann for å bygge en mur som startet fra den nordøstlige svingen av Huang He i Shaanxi og fortsatte østover til Youyu. Året etter ble ytterligere 200 000 menn sendt for å fortsette å bygge murer i det samme området. Denne muren løp omtrent parallelt med den nåværende grensen mellom Shanxi og Indre Mongolia og beskyttet landet nord for den nye hovedstaden Luoyang. Keiser Yang laget også samme år murkonstruksjoner i Qinghai-provinsen og utenfor de nordlige grensene.