明代の洪武十四年（1381年）、将軍の徐達が整備を行い、山と海の間にあることから山海衛と命名して永平府の管轄とし、後に山海関と称されるようになった。
明洪武十四年（1381年），大将徐达修筑长城，在此设立关城，因位于燕山与渤海之间，故取“山”、“海”二字而得名“山海关”，归隶永平府管辖。