Opphavlig gikk Heidmanns gate fra Brygga, men da jernbanen ble bygd mellom Brygga og Skappels gate ble det ikke bygd undergang. Heidmanns gate 1 og 2 ligger stadig nedenfor jernbanelinja, atskilt fra resten av gata. Heidmanns gate 2 er forøvrig en staselig villa som opphavlig ble kalt «Villa Ekely», og den ble bygd midt på 1800-tallet for fogd Johannes Bay.