Den kinesiske mur ved Huangyaguan ble opprinnelig bygget under det nordlige Qi-dynastiet, som i 556 utvidet den nybygde muren nord for Beijing østover til Shanhaiguan. Ming-dynastiet bygde senere på 1550-tallet en ny mur på restene av den nordlige Qi-dynastiets mur. Denne muren ble renovert, utvidet og fullført i 1567–1572 under ledelse av general Qi Jiguang. Det var i løpet av denne tiden muren fikk det karakteristiske mursteinsutseendet med tårn og skyteskår som Den kinesiske mur er kjent for. Forsvaret av Huangyaguan under Ming-dynastiet var under Jizhou-garnisonens ansvar.