I 1895 flyttet familien til Christiania. I 1899 hadde Kolstø sin første separatutstilling, hos Blomqvist kunsthandel. Kolstø malte i 1901 alterbildet i Vår Frelsers kirke i Haugesund.