十二年（1553年），为了抵御倭寇，上海县修筑了城墙，并在城墙北侧修筑了四座箭台。万历年间，四座箭台之一的大境箭台之上修建了一座关帝庙。明朝时，人们在这座关帝庙上饮酒赏雪的娱乐活动被以“江皋霁雪”一名列入了“沪城八景”之中。此后明崇祯七年（1634年）、清朝雍正、干隆年间均有整修。嘉庆二十年（1815年）时，大境阁的主体建筑改建为三层楼阁。道光十六年（1836年）时在大境阁的东侧新建“大千胜境”牌坊，大境阁由此而得名。咸丰三年（1853年）时，大境阁失火，没过多久即得以重建。第二次鸦片战争期间，大境阁遭英法