Kielland jobbet først på arkitektkontor før han tok utdannelse på Technische Hochschule zu Charlottenburg. Han jobbet så på arkitektkontor i Berlin og Düsseldorf før han flyttet til Buenos Aires. I 1911 kom han tilbake til Norge og ble bygningsinspektør ved NSB Arkitektkontor. Fra 1918 jobbet han som bygningsinspektør i Kristiania kommune, før han ble bygningssjef i Oslo kommune i 1928. Med et lite opphold på slutten av krigen hadde han denne stillingen fram til oktober 1945.