V roce 1931 se vrátil do Palestiny, kde se stal tajemníkem politické sekce Židovské agentury, která byla „téměř vládou“ židovského společenství v britském mandátu. V roce 1933 se po zavraždění Chajima Arlozorova stal ředitelem politické sekce a tuto funkci zastával až do vzniku Izraele v roce 1948. V letech 1933 až 1948 se rovněž účastnil jednání mezi sionisty a britskou správou mandátní Palestiny, která vedla až ke vzniku Izraele. V roce 1936 připravil podklady pro šetření Peelovy komise, která měla prošetřit okolnosti arabského povstání, a zároveň podpořil Ben Guriona a Chajima Weizmanna v přijetí návrhu komise na rozdělení britského mandátu (k tomu však nakonec podle tohoto návrhu nedošlo).