Romerska legionsläger uppfördes i området mellan 49 och 67 e.Kr. En riktig stad, växte först fram under 80-talet e.Kr., "Glevum" (senare: "Colonia Nerviana Glevi"), grundlagd av kejsar Nerva. Staden fortlevde ända in på 500-talet. Efter en period av nergång uppstod en ny anglosaxisk bosättning på platsen. Stadens tillväxt gynnades av grundläggandet av klostret "St. Peter" av kung Osric av Northumbria år 681. Gloucester kom senare att bli huvudstad för det anglosaxiska riket Mercia. Staden var redan ett regionalt centrum, med ett kungligt residens och mynttillverkning före Normandernas erövring av England 1066. Henrik II gav Gloucester, det första av många privilegium, och stadsrättigheterna bekräftades senare år 1605. Tidigt kom stadens välstånd att baseras på järnindustri och handel med jordbruksprodukter, redan före kung Rikard I. Senare växte en garveriindustri fram och under 1300-talet började klockgjutning att utföras i Gloucester. Mellan 1100-talet och 1500-talet blomstrade tyghandeln i staden. Staden spelade en viktig roll under de engelska krigen mot Wales och i olika inbördeskrig under medeltiden.