Giv'on ha-Chadaša navazuje na starověké biblické město Gibeón, jehož jméno je dodnes přítomno v názvu sousední palestinské vesnice Džib. Moderní židovské osídlení v této lokalitě začalo v 19. století. V roce 1887 byla založena organizace pro výkup pozemků v okolí Jeruzaléma, která v roce 1888 získala parcely v této oblasti. V roce 1895 se sem nastěhovalo 13 rodin jemenitských Židů. Kvůli finančním potížím ale byla tato zemědělská komunita po čase zrušena. Podruhé se zde Židé o založení trvalého sídla pokusili v roce 1924, kdy se tu usadilo 15 jemenitských a aškenázských Židů. Tato osada se zde udržela pět let v těžkých podmínkách, bez přístupové cesty a bez rodinných příslušníků, kteří zůstali v Jeruzalémě. Během arabských nepokojů v roce 1929 na osadníky zaútočili Arabové ze sousední vesnice an-Nabi Samwil. Vzhledem k izolované poloze pak židovští osadníci místo opustili.