建筑始建于明朝万历年间，此后多有整修。1912年上海县城墙被拆时，其周边的部分城墙得以保存。中华人民共和国成立后，大境阁一度被用为工厂车间，1995年经维修后作为景点对外开放。1984年，大境阁和上海县城墙以“上海古城墙和大境道观”一名被合并列入上海市文物保护单位。
历史.明朝嘉靖三十二年（1553年），为了抵御倭寇，上海县修筑了城墙，并在城墙北侧修筑了四座箭台。万历年间，四座箭台之一的大境箭台之上修建了一座关帝庙。明朝时，人们在这座关帝庙上饮酒赏雪的娱乐活动被以“江皋霁雪”一名列