Det første kommunistpartiet i Spania ble dannet 15. april 1920, og sprang ut av ungdomsorganisasjonen til sosialistpartiet PSOE. 13. april 1921 dannet så en fløy i PSOE med sympatier til Komintern enda et kommunistparti. Den 14. november 1921 ble så PCE dannet ved at de to kommunistpartiene gikk sammen, og det forente partiet ble værende medlem i Komintern. Partiet led mye av forfølging under diktaturet til general Miguel Primo de Rivera (1923–1930). Under folkefrontregjeringen og den spanske borgerkrigen 1936–1939 hadde PCE stor innvirkning etter hvert som regjeringen ble avhengig av sovjetisk våpenhjelp.