Rosenberg tjänstgjorde vid Kriegspresseamt under första världskriget. Efter Tysklands nederlag 1918 anslöt han sig till Tysklands oberoende socialdemokratiska parti (USPD). År 1920 gick han med i Tysklands kommunistiska parti (KPD). Efter hårda interna konflikter lämnade han partiet för att undervisa vid Humboldtuniversitetet i Berlin.