En 1903, au lendemain du pogrom de Kichinev, il se rend sur les lieux pour témoigner. Révolté par la foi aveugle et l’immobilisme de ses coreligionnaires, il compose un poème qui fera date dans l’histoire de la littérature hébraïque : « Dans la ville du massacre ». C’est à Kichinev aussi qu’il rencontre une jeune femme artiste peintre, mariée et mère d’une petite fille, Ira Jann, qui éprouvera pour lui une passion destructrice. Ira Jann fut peut-être sa maîtresse, mais décida de fuir sa passion en s’installant en Palestine, espérant que le poète la suivrait. En 1904, à la demande de l’historien Joseph Klausner, Bialik accepte le poste de corédacteur en chef de la revue littéraire la plus prestigieuse de son temps, Ha-Shiloah, fondée quelques années plus tôt par Ahad Ha'Am. Il en démissionnera en 1909. C’est en 1909 aussi qu’il se rend pour la première fois en Palestine, où il éprouve des sentiments ambivalents, la désillusion le disputant à l’espoir de voir renaître un foyer juif sur la terre de ses ancêtres. Il lui faudra encore de nombreuses années pour se résoudre à s’y établir : ce n’est qu’en 1920 qu’il prend enfin la décision de quitter sa Russie natale, pour fuir la dictature bolchevique. Il y parvient en 1921, aidé par Maxime Gorki.