Lindeberg ble født i Stockholm og ble student ved Uppsala universitet i 1806. Ved det russiske keiserdømmets angrep på Sverige og den påfølgende finskekrigen i 1808 gikk Lindeberg inn i det svenske forsvaret. Han ble utnevnt til fenrik ved Västmanlands landforsvar (svensk: lantvärn), ble beordret til skärgårdsflottan og deltok på kanonsluppene i en rekke trefninger (som ved Bockholmssund, i Grönvikssund) samt i landstigningen ved Kimito. Etter hjemkomsten ble han beordret til å tjenestegjøre ved Gotlands hjemmevern (svensk: Gotlands nationalbeväring) og deltok i årene 1813-1814 med Skaraborgs regiment i felttoget mot Napoléon Bonapartes franske styrker i Tyskland i 1813 og i invasjonen av Norge i 1814.