Hans far Christopher Fürst bygde i 1809 Lassens hus i Arendal. Huset er nærmeste nabo til Kallevigs palé, eller Arendal gamle rådhus. Johan Fürst fikk huset i gave av sin far.