Fra oktober 1934 til februar 1936 ble han satt i fengsel, på grunn av hans ivrige deltakelse i de mislykkede venstreorienterte kupp i 1934. Carrillo var på denne tiden medlem av den nasjonale revolusjonære komiteen i Spania.