Đảng Cộng Sản Nhật Bản đã thành lập một cách bí mật, do Luật Duy Trì Trị An cấm chỉ mà bị quân đội cùng cảnh sát Đế Quốc Nhật Bản đàn áp và hành hạ. Trong thời kỳ chiếm đóng đảng được hợp pháp hóa năm 1945, sau luôn là chính đảng hợp pháp tranh cử được trong các cuộc bầu cử. Năm 1949 đảng được thắng lợi vô tiền khi giành được 10% số phiếu và 35 đại biểu Quốc Hội, nhưng đầu năm 1950 bị Liên Xô chỉ trích mạnh vì sách lược tham nghị; Stalin yêu cầu đảng tiến hành các hoạt động hiếu chiến thậm chí bạo lực hơn, Tư Lệnh Tối Cao Minh Quân thừa dịp làm cuộc Thanh Trừ Đỏ buộc các lãnh đạo đảng phải đi bí mật. Sau Chiến Tranh Triều Tiên nổ ra, đảng thi hành các hành vi khủng bố, phá hoại, dẫn đến mất niềm tin đại chúng. Thập niên kết thúc đảng không bao giờ thắng hơn 3% số phiếu là hai ghế Quốc Hội, tuy nhiên vẫn được các phần tử tri thức ủng hộ nên được tương đối quan trọng hơn.