PCI ble forbudt av Benito Mussolinis fascistregjering i 1926, men fortsatte illegalt og i eksil. Den nye partilederen, Antonio Gramsci, ble fengslet samme året. Lederskapet ble overtatt av Palmiro Togliatti, som også ledet partiet da det ble lovlig igjen i 1944. Partiet deltok i regjeringssamarbeid med flere andre parti fra 1944 til 1947, da det ble tvunget ut på grunn av den kalde krigen som holdt på å utvikle seg. I 1948 gikk PCI og PSI sammen i , og ble såvidt slått av det kristeligdemokratiske Democrazia Cristiana (DC), som hadde full støtte frå både paven og USA. Den sosialistiske tendensen har helt siden 1948 vært dominert av PCI. PCI var det største kommunistpartiet i Vest-Europa og Italias nest største parti ved valg.