Pochodził ze Żmudzi, z rodziny szlacheckiej. Służył w Wojsku Polskim Księstwa Warszawskiego. Brał udział w wyprawie Napoleona na Moskwę w roku 1812 (m.in. przebywał w Moskwie w czasie pożaru tego miasta), po upadku której dostał się do niewoli rosyjskiej. W bliżej nie ustalonych okolicznościach zbiegł, a następnie przedostał się do Francji, gdzie wstąpił w szeregi armii francuskiej. Według legendy, otrzymał Krzyż Legii Honorowej (lub medal) od samego Napoleona, który miał zdjąć ów krzyż z własnej piersi i uhonorować nim Jancewicza. W kampanii napoleońskiej Karol Jancewicz otrzymał wiele ran, m.in. był raniony szablą w twarz, a pozostała po tym urazie blizna stanowiła swego rodzaju znak rozpoznawczy Jancewicza w późniejszych latach.