Litvinov sluttet seg i 1898 til Russlands sosialdemokratiske arbeiderparti og endret sitt navn til Maksim Litvinov, men var også kjent som Papasja og Maksimovitsj. På grunn av sin politiske aktivitet ble han fengslet, men klarte å rømme etter 18 måneder og var fra 1902 bosatt i Sveits. Året derpå vendte han tilbake til Russland. Ved sosialdemokratenes splittelse samme år sluttet han seg til bolsjevikene.