Friedrich Wilhelm Rembert von Berg var av tysk slekt fra Baltikum, født i Sangaste i daværende Livland som da var en del av Russland, og han studerte ved Universitetet i Tartu. Han gikk inn i den russiske hæren i 1812, deltok så i Napoleonskrigene frem til 1814. I 1820 ble han oberst og ledet i årene 1822-1824 militære ekspedisjoner mot kirgiserne. I 1828 ble han generalmajor. Han deltok i felttoget mot tyrkerne 1828-1829 og var med på å slå ned opprøret i Polen i 1830-1831. Han ble generalløytnant i 1831 og general i 1843. Han deltok også i det russiske felttoget i Ungarn i 1849 for å slå ned den ungarske revolusjonen.