בעהם התמסר לפעילות ציונית וייסד בחרקוב את האגודה העממית "בוני ציון" ואת אגודת הסטודנטים "קדימה". ב-1902 השתתף בוועידת מינסק, באותה שנה היה ציר בקונגרס הציוני הרביעי, שהתקיים בלונדון. ב-1903 יצא בשליחות יהודי חרקוב לקישינב, לארגן את העזרה לנפגעי הפרעות.