På nordsiden, rett ved Bergskrivergården, står en byste av Paul Steenstrup. Den er utført av Karl Skalstad fra Kongsberg og ble avduket 17. mai 1914. Den sto da på Steenstrups plass ved Storgata og har senere blitt flyttet til nåværende sted.