Rosenberg besuchte die Höhere Bürgerschule in Frankfurt (Oder) sowie die Kadettenhäuser in Wahlstatt und Berlin. Anschließend wurde er am 27. Mai 1845 als Portepeefähnrich dem Kaiser Franz Grenadier-Regiment der Preußischen Armee überwiesen und avancierte bis Mitte März 1846 zum Sekondeleutnant. Nach seiner Teilnahme an der Niederschlagung der Märzrevolution 1848 in Berlin kam er mit seinem Regiment während des Feldzuges gegen Dänemark bei Schleswig ins Gefecht. Ab April 1853 war Rosenberg für vier Jahre zur Schulabteilung des Infanterie-Lehr-Bataillons kommandiert und stieg bis Ende Mai 1859 zum Hauptmann auf. Am 7. Juni 1860 erfolgte seine Versetzung in das neu errichtete 4. Garde-Grenadier-Regiment nach Koblenz, in dem er zwei Monate später zum Kompaniechef ernannt wurde. In dieser Eigenschaft nahm er 1864 im Krieg gegen Dänemark an der Belagerung von Fredericia, dem Gefecht bei Gudsoe sowie dem Sturm auf die Düppeler Schanzen teil und erhielt für sein Wirken den Roten Adlerorden IV. Klasse mit Schwertern.