Stedsnavnet Harrow er avledet fra angelsaksiske begrepet i betydningen (førkristent) «tempel». Dette tempelet lå antagelig på en høyde i Harrow der hvor den kirken St. Mary's Church står i dag. Forskeren Keith Briggs har studert stedsnavnet i detalj og publisert forskningen. Det angelsaksiske er avledet fra urgermanske i betydningen «steinhaug/alter», og er beslektet med det norrøne horg (), som også har betydningen «steinsetting», «haug» eller «røys», men i overført betydning offersted eller alter.