The Narrows ble sannsynligvis dannet for ca. 6000 år siden, ved slutten av siste istid. Tidligere var Staten Island og Brooklyn sammenkoblet, og Hudsonelva hadde sitt utløp i havet gjennom dagens Raritan River, ved å ta et vestligere løp gjennom nordlige deler av dagens New Jersey, langs østsiden av Watchung Mountains til Bound Brook, New Jersey og videre til Atlanterhavet via Raritan Bay. En økning i vannstanden i Upper Bay gjorde at elva brøt gjennom og dannet Narrows, slik den eksisterer i dag (Waldman, 2000).