Han vokste opp i et dansksinnet hjem i det språkdelte Sønderjylland. Slektsnavnet Schlüter var tysk, etter Poul Schlüters farfar, som innvandret fra Holstein. Pouls foreldre var Johannes Schlüter (1899–1965) og Else Holmskov (1904–2002), som drev grossist- og butikkhandel i sjokolade og sukkervarer i Tønder.