Grabois começou a carreira política como militante da Juventude Comunista, a ala jovem do partido (que então usava a sigla PCB, mas chamava-se Partido Comunista do Brasil). Em 1934, aos 22 anos, já era a dirigente da entidade. Ingressando na Aliança Nacional Libertadora, uma facção do PCB que tentou a luta armada, ajudou a organizar a Intentona Comunista de 1935 e, após o fracasso da insurreição, editou clandestinamente o jornal "A Classe Operária", que existe até hoje, e dirigiu a Vitória, editora do PCB. Foi preso no verão de 1941 e solto no ano seguinte.