Enkelte mener at et av Stavangers gamle rettersteder var på Steglebakken, ved krysset Kongsgata og Stiftelsesgata. Det er i hovedsak ut fra en vurdering av navnet Steglebakken. Der noen mener at ordet kunne komme av formuleringen i eldre lover om at store forbrytere etter henrettelsen skulle legges på «Steil og Hjul». I et dokument fra 17. februar 1688 skulle en kvinne halshugges og hodet skulle settes opp på en stake ved Steglebakken, som det var vanlig. Dokumentet sier at hodet skulle settes på en stake, men kan også tolkes som at selve henrettelsen skulle finne sted der. Hans Eyvind Næss mente at henrettelsene foregikk på Steglebakken. Jens Tvedt mente at navnet betydde den steinete og vonde bakken. Næss mente at mest nærliggende å anta at det er slike stegler (steiler) med den henrettedes døde kroppsdeler som har gitt navnet til Steglebakken.