총비서
1933년 나치스가 권력을 잡자, 피크는 다시 망명길에 오른다. 프랑스에 갔다가 1935년에는 모스크바로 가서 여러 자격들에서 공산당을 섬겼다. 1938년부터 1943년까지 코민테른의 총비서 직위를 채웠다. 1943년 그는 자유 독일 국리 위원회의 창립인들 중의 하나였고, 그 기구는 제2차 세계대전 후의 독일의 미래를 위한 계획을 세웠다. 1945년 전쟁의 종말에 피크는 승리한 붉은 군대와 함께 귀국하였다.