К. А. Шыльдэр нарадзіўся ў маёнтку Сіманава Невельскага павета Віцебскай губерні (зараз вёска Сіманава ў Невельскім раёне Пскоўскай вобласці Расіі). Першапачатковую адукацыю атрымаў у сям'і. Сярэднюю адукацыю атрымаў у Маскоўскім шляхетным універсітэцкім пансіёне і ў 1802 годзе быў прызначаны унтэр-афіцэрам у Маскоўскі гарнізонны батальён. У 1803 годзе залічаны калонаважатым у школу пры Дэпо світы цара, якую скончыў у 1806 годзе. У 1805 годзе К. Шыльдэр удзельнічаў у бітве пад Аўстэліцам. У 1806 годзе атрымаў чын падпаручніка і пачаў службу ў інжынерных войсках. К. Шыльдэр удзельнічаў у абароне Баруйска (1812), вызначыўся пры абароне Варны, Сілістры і Шумлы падчас руска-турэцкай вайны 1828—1829 гг., пры фарсіраванні Дуная і аблозе Сілістры падчас Крымскай вайны 1853—1856 гг. У 1849 годзе К. А. Шыльдэр быў прызначаны начальнікаў інжынераў дзеючай арміі.