Etter det nordlige Wei-dynastiets fall, hadde det nordlige Qi-dynastiet (550–577) tatt makten over de østlige regionene i det nordlige Wei-dynastiets tidligere territorium. Det nordlige Qi-dynastiets begynte i 552 med byggingen av en forsvarsmur langs den nordvestlige grensen til Shanxi-provinsen som en beskyttelse mot det vestlige Wei-dynastiet, og senere også som en beskyttelse mot det nordlige Zhou-dynastiet. For å beskytte seg mot nordlige nomader ble det også bygget en mur langs den nordlige grensen.