除包括城隍在内的岳、镇、海、渎的封号，上海的城隍因此仅称“上海县城隍之神”。永乐年间，上海知县张守约将位于县衙西北、方浜北岸的霍光行祠改建为上海县城隍庙。地方官员每逢朔望在此拈香、宣讲乡约并祈晴祷雨。
扩建.明天顺年间，知县李纹在大殿前修建碑亭一座。嘉靖十四年（1535年）庙祝将原本狭隘的庙门改建为牌坊式大门，适逢新任上海知县冯彬到任按例谒庙，遂应庙祝之请，为牌坊题名“保障海隅”，并由永嘉县善于书写大字的幼童题写于上。万历三十一年（1603年）、三十四年（1606年）知县刘一爌