Israël Akkerman was de zoon van joodse immigranten uit Polen. Zijn vader Jozef Akkerman had zich in Antwerpen gevestigd als diamantwerker, met zijn vrouw Bluma Klipper uit Krakau. Ze kregen een zoon Emiel (1908) en vijf jaar later Israël. De twee broers gingen in de Joodse jeugdbeweging en daarna in de communistische jeugd, waarvan Israël op 16 jaar secretaris werd. In 1924 was hij een van de oprichters van de lokale tak van Internationale Rode Hulp. Eens jongvolwassen ging hij op zijn beurt aan de slag in de diamantnijverheid, waarin de crisis in de nasleep van de Wall Street Krach hard toesloeg. Israël ontpopte zich tot een strijdbare syndicalist die, onder zijn nieuw aangenomen voornaam 'Piet', succesvolle stakingen organiseerde van de Algemene Diamantwerkersbond van België (1935-36), een als reformistisch bekende vakbond.