Etter denne erfaringen bestemte Herzl seg for å anvende sine kunnskaper og sin respekterte stilling til å hjelpe det jødiske folket. I 1896 publiserte han boken , hvor han hevdet at jødene måtte etablere sin egen stat. At den skulle ligge i Palestina var ikke opplagt for Herzl på dette tidlige tidspunkt. Han nevnte også Argentina som en mulighet på grunn av landets rike natur og store areal. Ved sionistkongressen i 1903 foreslo han at kongressen skulle anta Storbritannias tilbud om å åpne Østafrika for sionistisk immigrasjon, men kongressen bestemte seg for å satse på Palestina som det mest passende sted for en jødisk stat.