В западной части современного Пенроуза находится место, где в августе 1861 года было построено укрепление, входившее в состав Арлингтонской линии – части системы оборонительных сооружений вокруг федеральной столицы в период Гражданской войны. Назван в честь лейтенанта Пресли Крейга, погибшего 21 июля 1861 г. в сражении на реке Булл-Ран. Форт прикрывал подходы к мосту через Потомак, был ориентирован в юго-западном направлении и был вооружен несколькими полевыми пушками и двумя мортирами. Боевых действий непосредственно у форта Крейг не было. В июне после завершения войны форт был разрушен, а земельный участок возвращен владельцу по имени Септимус Браун . Место расположения бывшего форта признано историческим местом округа Арлингтон, на нём установлен памятный знак.