Partiet ble dannet i Minsk i dagens Belarus i 1898. Navnet på partiet signaliserte at det var et parti for alle folkeslag i det russiske imperiet, ved at de brukte den territorielle benevnelsen og ikke den etniske benevnelsen . Blant de fremste medlemmene var Julius Martov, Lev Trotskij og Vladimir Lenin. Partiet var fra begynnelsen illegalt.