In Riga wurde Rose in einer lettischen Arbeiterfamilie geboren und erlernte nach seinem Schulabschluss den Beruf eines Schlossers. Ab 1915 dient er bei den Lettischen Schützen in der russischen Armee sich bis zum Fähnrich und Zugführer. Durch seinen Fronteinsatz erhielt er auch Tapferkeitsauszeichnungen. Nach der Oktoberrevolution 1917 kämpfte er auf sowjetischer Seite in verschiedenen Militäreinheiten, so unter anderem als Regiments- und Brigadekommandeur der Roten Lettischen Schützen. Seit dem Jahre 1918 war er Mitglied der Kommunistischen Partei Russlands ("РКП(б)").