北国民联军总司令冯玉祥督陕驻新城，阔建清代满城内东西大街为东新街，并于街东端城墙开辟城门，于敌台两侧各砌一个券洞。时值孙中山先生逝世两周年，便以“中山”之号命名城门，以纪念国民革命领袖。中山门并列的两个门洞，亦分别取名“东征门”和“凯旋门”，以表示国民革命军北伐必胜之决心与深意。同年5月1日，冯玉祥率部东出潼关参加北伐，即由中山门出城。因中山门开辟之前，东城墙仅有东门长乐门一座城门，故中山门被民众俗称为“小东门”。2014年之前，中山门北侧门洞原存中华民国时期的木质城门板，当时也是西安城墙各城门中，