Segovias opprinnelse er heller ikke fullstendig kjent. En folkegruppe som romerne kalte for , antagelig keltiberere, er kjent for ha befolket området før romerne erobret byen. Romerske soldater ble sendt for ta kontroll over området som da falt innenfor jurisdiksjonen av den romerske provinsielle rett (latin ; spansk ), lokalisert i Clunia, og de romerske troppene ble værende og bosatte seg.