Nach einer praktischen Ausbildung bei Jacob Ephraim Polzin, besuchte Gildemeister zuerst die Polytechnische Hochschule Karlsruhe und dann die Berliner Bauakademie. Studienreisen führten ihn nach Italien und Griechenland. Zwischen etwa 1849 und 1857 war er in New York tätig. Für die Exhibition of the Industry of All Nations (1853) in New York erbauten Karl Gildemeister und Georg Carstensen 1852 einen Kristallpalast, der aber schon 1858 einem Großbrand zum Opfer fiel. In Bremen war er, bis zu seinem frühen Tod, Lehrer an der gewerblichen Zeichenschule (eine Kunstgewerbeschule). Bekannt ist sein historisches Aufmaß vom Bremer Rathaus und seine Marktplatzansicht.