Baltazar døde ugift i 1885. Han hadde da mottatt den svenske Nordstjerneordenen, franske Æreslegionen og den polsk-russiske Sankt Stanislaus-ordenen (kun tredje klasse). I 1861 og 1872 fikk han St. Olavs Ordener. Han var sønn av Maria Flor Kirkgaard (1776–1847) og Palle Rømer Fleischer (1781–1851) av slekten Fleischer. Faren var offiser, eidsvollsmann og statsråd. Broren Hans Kirkegaard Fleischer (1803–84) ble høytrangende offiser og hoffsjef.