Gateløpet er kurvet og går mellom Domkirkeplassen (Domkirken) i syd og Vetrlidsallmenningen i nord, hvor gateløpet fortsetter som Øvregaten. Gateløpet er et av Bergens eldste og var opprinnelig den søndre del av Øvregaten. Øvregaten med Lille Øvregate var del av eller begynte som ridevei eller bygdevei mellom Holmen og kongsgården Alrekstad ved Store Lungegårdsvann. Gaten krysses av Øvre Korskirkeallmenning (etablert etter bybrannen 14. februar 1582) og Øvre Hamburgersmauet. Øvre Korskirkesmauet forbinder også gaten vestover mot Kong Oscars gate.