Det har vært bosetninger i området helt siden istiden, men første landsbyene som Sheffield vokste frem fra ble grunnlagt i angelsaksisk tid. Etter normannernes erobring av England i 1066 ble det bygget en festning, her som mange andre steder i England, for å kontrollere befolkningen, og en liten by begynte å utvikle seg rundt dette.