Hun var datter av tollbetjent Gustav Blom i Drammen og Karen Petronelle Stoltenberg. I 1824 giftet hun seg med presten Gabriel Kirsebom Kielland. Sammen fikk de ni barn. Gustava Kiellands mest kjente produksjon er Norges mest benyttede julesang «O, Jul med din Glæde». Gustava Kielland stiftet Norges aller første kvinneforening i Lyngdal. Dens første møteprotokoll er datert 1844. Lyngdal har idag et eget misjonsmuseum som hedrer Gabriel og Gustavas minne.