Kilde ble utdannet ved Norges musikkhøgskole i Oslo (1961). Han hadde hovedfagseksamen i forming fra Telemark lærerhøgskole (1983). Som kunstner, debuterte han i Paris i 1985. I løpet av disse årene, hadde han over over hundre utstillinger bak seg, nasjonalt og internasjonalt. I 1990 deltok han på en stor internasjonal utstilling i Bordeaux, hvor han mottok Bordeaux bys æresmedalje. De fleste ustillingene hans har vært i Frankrike, Belgia og Tyskland. I august 2015 ble Kilde invitert tilbake som æresutstiller til en stor utstilling i Bordeaux. Her viste han en serie fargerike silketrykk, inspirert av naturen.