当地からは旧石器時代の石器や縄文・弥生時代の遺跡が発掘されるなど、古くから人が暮らしていた土地であり、平安時代の創建と伝わるほか、鎌倉時代には源頼朝の弟である全成が院主となった「威光寺」も所在していた（現存する妙楽寺は、威光寺の塔頭であった）。ただし、これらはすべて丘陵地帯（谷長尾）の側にあり、のちの河内長尾は多摩川の流路となっていた。
戦国時代には、北条氏康による印判状が「長尾百姓中」宛に出されたほか、「小田原衆所領役帳」にも「稲毛長尾村」の形で登場するなど、後北条氏の領地であった。その後、小田原征伐に先立ち、豊臣秀吉から「長尾村」などに禁制が出されている。
江戸時代の初期には旗本の村上氏・大河内氏・木造氏の三給の地となるが、のちに天領となっている。多摩川の流れが北へ移ったことで河内長尾の地が生まれ、二ヶ領用水も作られて新田開発もなされたが、もともと多摩川であった土地のため、氾濫にたびたび襲われた。農地としては田より畑が多かったが、谷あいに棚田も作られた。農産物としては穀物以外に、明和年間以降にサツマイモが作られ、幕末には養蚕が行われたが、寛永以降には貨幣経済に組み込まれ、農地の質入れや農間の余業として商工業に従事する農家も現れた。
明治時代にも当地は農地としてあり続けたが、都市化する東京の近郊として果樹栽培や酪農、都内向けの天然氷の生産、大正に入ってからは野菜作りも行われた。昭和に入り、小田急線の開通と共に向ヶ丘遊園も開設された。行政上は町村制の施行に合わせて向丘村の一部となり、のちに川崎市へと編入された。戦後には当地に宅地開発や東名高速道路の建設など、開発の波が押し寄せ、風景も一変していった。そんな中で遺跡も多数発見され、なかには東高根森林公園などのように保護される事例もあった。川崎市が政令指定都市に移行した際、当地はほかの旧向丘村域同様に高津区に所属したが、住民の希望により一部が多摩区へと編入され、同時に住居表示が施行された。これが現在の長尾であり、高津区に残された側は宮前区へ分区されるのと同時に住居表示が行われ、「長尾」の名は消滅している。
地名の由来.