פעילותו הציבורית הראשונה הייתה לאחר הפוגרום בקישינב ב-1903. הוא ארגן אספת מחאה של תלמידים, נאם ספונטנית, הלהיב והרשים. מכאן והלאה החליט לפעול בכל דרך למען עם ישראל. הוא פעל בקרב הנוער באספות וחוגים בלתי-לגאליים ונודע כנואם טוב.