Rosenberg ble utdannet typograf og sto for trykking av sin mors avis i Grenå, men hadde ikke lyst å ta over bladet. I 1890–1896 var han faktor og redaktør for Venstre-avisen . I 1896–1897 reiste han til Balkan og Midtøsten, hvor han skrev reisebrev til en rekke danske aviser, og rapporterte fra de første moderne Olympiske leker i Athen. Etter det jobbet han i Venstre-politikeren P.A. Albertis avis til avisen stengte etter avsløringen av Albertis svindel i 1909. Samtidig var han korrespondent for i Kristiania og i Stockholm.