Denne specielle diæt baseres på, at du spiser på samme måde, som man gjorde tilbage i stenalderen – deraf navnet palæo, som betegner noget gammelt, eller bruges i forbindelse med den tidlige oldtid. Man gætter på, at man i stenalderen levede hovedsageligt af kød, fisk, æg, nødder, frugt og andre spiselige planter, da man ikke havde adgang til alle de kulhydratholdige fødevarer, som vi spiser meget af i dag.
Da landbruget blev indført for små 12.000 år siden, betød det store ændringer i vores kost, hvor korn, mejeriprodukter og sukker kom til at fylde meget. Palæo kosten tager udgangspunkt i, at kroppen slet ikke har nået at tilpasse sig til denne diæt på de 12.000 år, i forhold til hvor lang en periode mennesker levede som jægere og samlere. Derfor er idéen, at vores krop heller ikke har så godt af korn, mejeriprodukter og sukker, fordi den simpelthen ikke er designet til at fordøje og omsætte disse ting ligeså godt, som den fordøjer og omsætter kød, grøntsager, nødder og bær/frugt.
Der er dog nogle udgaver af palæodiæten, hvor man også inkluderer mejeriprodukter som ost, fløde og yoghurt, så mejeriprodukter kan være lidt af en gråzone i forhold til om det er “tilladt” eller ej i palæo.