Den eldste referansen til byen opptrer i Bedas (), skrevet en gang rundt 730. Forfatteren viser til . Første stavelse «Herut» er angelsaksisk for hva som i dag skrives som «hart» på engelsk. Det har betydning en voksen kronhjort. Andre ledd er «ford», og betyr krysningspunkt over en elv, et vadested. Opprinnelsen til navnet er således vadestedet hvor det var hjorter. i 1086 stavet byens navn som .