De første bosetterne, fra den engelske kolonien Connecticut, slo seg ned i kommunen rundt 1644. Sannsynligvis har kommunen sitt navn fra Hemel Hempstead i England eller Heemstede i Nederland. I 1784, under den amerikanske revolusjon, forårsaket lojalistene i syd og de amerikanske sympatisørene i nord en splittelse av kommunen i Nord-Hempstead og Syd-Hempstead.