Berkman var sønn av en jødisk forretningsmann. Han emigrerte til USA fra Russland i 1888 og ble deportert til Russland i Russland, som han forlot to år senere. De siste to tiårene av sitt liv levde han som flyktning i Riga, Stockholm, Berlin, Paris og Nice, hvor han døde.