Karel Jahelka se narodil 24. října 1894 v Opočně v dnešním okrese Rychnov nad Kněžnou, kde také mezi lety 1901 a 1904 absolvoval měšťanskou školu. V roce 1911 nastoupil do poddůstojnické školy v Hradci Králové a po jejím ukončení působil v hodnosti četaře jako instruktor jednoročních dobrovolníků. Po začátku první světové války byl odvelen na ruskou frontu, kde 24. listopadu 1914 padl u Dukly do zajetí. Rok strávil v zajateckém táboře, poté se přihlásil do československých legií. Zde byl postupně povyšován a zúčastnil se mimo jiné bitvy u Zborova a sibiřské anabáze. Poté, co se nalodil ve Vladivostoku dorazil 21. října 1920 do Československa.