Spor etter menneskelig nærvær går tilbake til paleolitikum; de første spor etter bebyggelse til neolitikum. To kulturer er blitt påvist; på nordsiden, og i sør. I Vår- og høstannalenes tid løp grensen mellom de konkurrerende statene Qi (i nord) og Lu (i sør) gjennom dette fjellpartiet. I den påfølgende perioden, De stridende staters tid, bygde staten Qi Den store Qi-muren, en 500 km lang mur for å beskytte seg mot invasjoner; deler av muren finner man den dag i dag i Taishanfjellene.