Opphavet til navnet er sannsynligvis et gjerde fra 1500-tallet som fulgte dagens Høylandsgate. Gjerdet er nevnt i en dom i en nabotvist fra 1597. En annen mulighet er et steingjerde som gikk fra Vågsgjerdveien og utgjorde den første bygrensen.