Поскольку он был всего лишь третьим сыном в семье, которая была младшей ветвью княжеского рода Фюрстенбергов, Карла Алоиса с раннего возраста готовили к карьере военного. Его гувернёр, лейтенант Эрнст, в то время находился на службе у Габсбургов, и он брал шестилетнего Карла Алоиса на манёвры вместе с собой. Таким образом, уже в детском возрасте он начал изучать военную тактику, и тогда же его заметили множество важных военных деятелей, связи с которыми впоследствии позволили расширить ему своё обучение и помогли продвигаться по карьерной лестнице. В возрасте десяти лет Карлу было присвоено почётное звание , или полковник имперского округа. В юношеском возрасте, в 1776 году, Фюрстенберг встретился с военным министром Австрии, графом Францем Морицем фон Ласси и бароном Эрнстом Гидеоном фон Лаудоном. Также он был приглашён на ужин с императором Иосифом II. Свою службу он начал в 1777 году в звании фендрика (знамёнщика). Первый полевой опыт он получил во время Войны за баварское наследство, хотя ни в каких битвах участия не принимал.