Under første verdenskrig undertegnet Rakovskij 1915 i Zimmerwaldmanifestet, ble arrestert i 1916 i Romania og satt i fangenskap i Iași til mai 1917, da han ble befridd av russiske soldater. Han begav seg deretter til Russland, og sluttet seg der til kommunistene. Han skal en kort tid ha vært i Sverige og kom tilbake til Russland etter oktoberrevolusjonen i 1917.