Nummer 2 omtales som Kongsberg gamle politikammer eller Amtshuset. Den første bygningen på stedet ble reist rett etter at Sølvverket ble grunnlagt i 1623, og ble brukt av Bergamtet og Oberbergamtet. Kongsberg Sølvverks administrasjon har holdt til her sammenhengende fra 1620-årene til 1957. Den første bygningen brant to ganger, først i 1631 og deretter i 1652. Man fikk reist en ny bygning, men denne brant ned i 1810. Det ble igjen bygget nytt – dagens bygning. Utseendet den har nå fikk den etter en ombygging ved arkitekt Georg Andreas Bull i 1883–1884. I årene 1957 til 1990 fungerte Amtshuset som politikammer.