家湾形成于元朝，而张家湾城则是在明朝修建。明朝初期，倭寇和元朝残余势力为朝廷大患。倭寇活跃，朝廷担心倭寇沿大运河北上袭扰京城；而元朝残余势力也多次袭扰，逼近京师。张家湾是水路交通要地、漕运枢纽，为保卫漕运命脉和保卫北京，明朝朝廷决定在张家湾抢筑张家湾城。嘉靖四十三年二月（1564年），张家湾城开工建筑，用三个月抢筑完成。城墙内外均用大城砖砌成，中间实以夯土。张家湾城因地制宜，随着河水之势筑城，所以城池的形状并不规整，南北长，东西窄，平面呈瓦刀形，周长905丈。该城依据地形及码头位置设有5个城门。明清时期