Foi preso pelo governo czarista por participar de atividades políticas estudantis no "campus" e exilado de volta à Transcaucásia. Foi para solo alemão, onde encontrou-se com exilados do Império Alemão como Lenin, Julius Martov e Gueorgui Plekhanov. Ao retornar à Transcaucásia, tornou-se professor e líder dos sociais-democratas locais em Tíflis, além de prolífico escritor de literatura marxista. No II Congresso do Partido Operário Social-Democrata Russo de 1903, ficou do lado dos bolcheviques. Em 1907, mudou-se para Baku para liderar o significativo movimento bolchevique na cidade. Em 1914, liderou uma greve geral na cidade. A greve foi esmagada pelo Exército Imperial e Shaumián foi detido e enviado para a prisão. Escapou no começo da Revolução de Fevereiro de 1917.