Rozen var russisk sendemann (chargé d'affaires) i Tokyo 1902–04 og i Washington, D.C. 1905–11 (ambassadør), og representerte sammen med Sergej Witte Russland ved fredsforhandlingene med Japan i Portsmouth i New Hampshire i 1905. Han hadde motarbeidet den russiske politikk i Mandsjuria, som i 1904 førte til den russisk-japanske krig, og senere kritiserte han i 1912 den russiske utenrikspolitikkens daværende tyskfiendtlige og panslaviske retning, som etter hans mening kunne føre til en storkrig.