Den ytre by ble bygd på 27 år (1805–1832) under keiser Gia Long, i den arkitektoniske stil Vauban. Muren rundt var av stein, murstein og lord, og var åtte meter høy og 20 meter tykk. Ti store befestede porter med vakttårn ble anlagt. Ved Chuong Duc-porten kom det ni store kanoner på 12 tonn hver.