L'area occupata dalla città di Sheffield è abitata almeno a partire dal tardo Paleolitico Superiore, circa anni fa. Il più antico indizio della presenza umana nell'area di Sheffield è stato ritrovato a Creswell Crags, ad Est della città. Nell'età del ferro la zona divenne il territorio più meridionale della tribù celtica dei Briganti. Si pensa sia stata questa popolazione a costruire diverse fortezze di collina nei dintorni. Dopo la sconfitta e la cacciata dei Romani (Partenza dei romani dalla Britannia), l'area di Sheffield potrebbe essere stata la parte meridionale del regno celtico di Elmet, con i fiumi Sheaf e Don a formare la parte di confine tra questo e il Regno di Mercia. Una presenza celtica nell'area è dimostrata da due insediamenti vicini chiamati "Wales" e "Waleswood," ma gli insediamenti che unendosi diedero vita a Sheffield risalgono alla seconda metà del primo millennio ed ebbero origini Anglosassoni e Danesi. Durante la dominazione anglosassone l'area di Sheffield giaceva a cavallo tra i regni di Mercia e Northumbria. La Cronaca anglosassone riporta che il re Eanred di Northumbria si sottomise a re Ecbert del Wessex presso il villaggio di Dore, oggi un sobborgo di Sheffield, nell'829, un evento chiave dell'unificazione dell'Inghilterra sotto i sovrani del Wessex. Dopo la conquista normanna fu costruito il Castello di Sheffield per proteggere gli insediamenti locali e si sviluppò una cittadina che oggi costituisce il nucleo della città.