Litvinov anslöt sig 1898 till Rysslands socialdemokratiska arbetareparti och ändrade sitt namn till Maksim Litvinov, men var också känd som Papasha och Maximovich. På grund av sin politiska aktivitet fängslades Litvinov, men lyckades fly efter 18 månader och var från 1902 bosatt i Schweiz. Året därpå återvände han till Ryssland och vid socialdemokraternas splittring samma år anslöt han sig till bolsjevikerna. Han tvingades åter fly 1906 och var under tio års tid bosatt i London. Efter oktoberrevolutionen 1917 utsågs han till det bolsjevikiska Rysslands representant i London, men arresterades av den brittiska regeringen som dock frigav honom i utbyte mot en brittisk medborgare som fängslats i Moskva. Han utnämndes 1921 till vice folkkommissarie för utrikes ärenden under Georgij Tjitjerin. 1929 slöt han ett säkerhetsfördrag, det så kallade Litvinovprotokollet, med Rumänien, Polen och de baltiska staterna.