Adolf Joffe, Kırım, Rusya İmparatorluğu döneminde Simferopol'da zengin bir ailenin çocuğu olarak doğdu. 1900 yılında lise yollarından sosyal demokrat görüşlerle tanıştı ve 1903 yılında Rus Sosyal Demokrat İşçi Partisi'ne üye oldu. 1904 yılında tutuklanmamak için Bakü'ye gönderildi. Ardından Moskova'ya gönderildi, ancak tehlikelerin devam etmesi üzerine yurt dışına gitti. 9 Ocak 1905'teki Kanlı Pazar olaylarından sonra Rusya'ya döndü ve 1905 Rus Devrimine aktif olarak katıldı. 1906'da zorunlu göçe tabi tutuldu ve yaşadığı Berlin'den Mayıs 1906'da sınırdışı edildi.