Adolf Abramovich Joffe nasceu em Simferopol, Crimeia, no Império Russo, em uma família caraíta rica. Tornou-se um social-democrata em 1900 enquanto ainda estava no ensino médio, formalmente juntando-se ao Partido Operário Social-Democrata Russo (POSDR) em 1903. Em 1904, foi enviado a Baku, fugindo para evitar a prisão. Foi enviado para Moscou, mas teve que fugir novamente, desta vez para o exterior. Após os acontecimentos do Domingo Sangrento de 9 de janeiro de 1905, Joffe retornou à Rússia e participou ativamente da Revolução Russa de 1905. No início do ano seguinte, foi forçado a emigrar e morar em Berlim até sua expulsão da Alemanha em maio de 1906.