1933 թվականի հունվարին իշխանության գլուխ են անցնում նացիստական ուժերը, որից հետո կուսակցությունը ենթարկվեց հետապնդումների։ Կուսակցության 300 000 անդամների մոտ կեսը հայտնվեցին համակենտրոնացման ճամբարներում։ Բազմաթիվ անդամներ սպանվեցին։ Երկրորդ համաշխարհային պատերազմի տարիներին (1939-1945 թթ.) կոմունիստական կուսակցությունը բանվոր դասակարգին կոչ էր անում նպաստել հիտլերյան Գերմանիայի պարտությանը։ 1943 թվականին Գերմանիայի կոմունիստական կուսակցության կենտրոնական կոմիտեի նախաձեռնությամբ Խորհրդային Միության տարածքում ստեղծվում է «Ազատ Գերմանիա» ազգային կոմիտեն, որը գլխավորում էր հակաֆաշիստական ուժերի գործունեությունը Գերմանիայում և արտասահմանում։