Oldenburg begann seine Laufbahn in der kaiserlich russischen Armee 1809 als Sappeur. Er nahm in den 20er Jahren als Kommandeur des 7. Pionier-Regiments am Türkenkrieg teil und wurde 1828 mit den St.-Georgs-Orden IV. Klasse ausgezeichnet. 1829 avancierte er zum Generalmajor und war während des Novemberaufstands Kommandeur der 3. Sappeur-Brigade in Polen. In den Jahren 1838 bis 1843 war er Kommandeur der 2. Brigade und erhielt 1843 seine Beförderung zum Generalleutnant verbunden mit der Einsetzung als Kommandeur der 16. Infanteriedivision. 1845 stand er beim Ingenieurkorps und wurde Kommandant von Iwangorod. Seid 1846 war er dann Kommandant von Brest-Litowsk, was er bis 1848 blieb. In den Jahren 1848 bis 1859 war Oldenburg dann Bezirksgeneral des 10. Bezirks des Separierten Korps der Inneren Garde. 1859 wurde er zum General der Infanterie befördert. Er war Ritter des St.-Anna-Orden I. Klasse, des St.-Stanislaus-Ordens I. Klasse und des St.-Wladimir-Ordens III. Klasse.