Under första världskriget undertecknade Rakovskij 1915 Zimmerwaldmanifestet, arresterades 1916 i Rumänien och satt fången i Iași till maj 1917, då han befriades av ryska soldater. Han begav sig därefter till Ryssland, anslöt sig där till kommunisterna, uppges ha en kortare tid vistats i Sverige och återkom till Ryssland efter oktoberrevolutionen. Han sändes av sovjetregeringen i januari 1918 till Odessa som kommissarie för rumänska ärenden, anlitades för underhandlingar med ukrainska regeringen i Kiev och var oktober 1918 till januari 1919 ledamot av sovjetlegationen i Berlin. Han blev därefter ordförande i folkkommissariernas råd i Ukraina och var ett av Rysslands ombud vid Genuakonferensen 1922. Han var sovjetrepresentant i Storbritannien 1923–25 och i Frankrike 1925–27. Från sistnämnda land utvisades han på grund av sin aktiva verksamhet i Tredje internationalen.