Năm 1928, Chu Đức đem khoảng 10.000 quân đến vùng Tỉnh Cương Sơn nhập với một lực lượng nhỏ hơn của Mao Trạch Đông để lập ra Quân đoàn 4 Hồng quân, và ông là Quân đoàn trưởng Quân đoàn 4, trong khi Mao Trạch Đông làm đại biểu Đảng tại đây, và lực lượng này được gọi là "bộ đội Chu-Mao". Ông làm Tổng Tư lệnh Hồng quân Trung Hoa thời kỳ 1931-37. Khi Quốc-Cộng hợp tác năm 1937, ông là Tổng chỉ huy Bát lộ quân, thuộc Quân Cách mạng quốc dân (do Tưởng Giới Thạch chỉ huy). Cùng với phó tư lệnh Bành Đức Hoài, Chu Đức đã phát động Chiến dịch Bách đoàn tấn công các đồn binh Nhật vào năm 1940. Chiến dịch kết thúc với thắng lợi lớn của Bát Lộ Quân. Mặc dù Mao Trạch Đông ban đồng ủng hộ chiến dịch này, Mao về sau coi đó là tác nhân đưa đến chính sách tiêu thổ, đốt phá tàn bạo của quân Nhật và viện dẫn nó để phê bình họ Bành tại Hội nghị Lư Sơn. Sau chiến tranh chống Nhật, Chu Đức tiếp tục dẫn dắt Hồng quân Trung Hoa đánh bại Quốc Dân Đảng của Tưởng Giới Thạch trong Nội chiến Quốc-Cộng lần thứ hai 1946-49. Năm 1949, Chu Đức được đề cử làm Tổng tư lệnh Quân Giải phóng Nhân dân Trung Quốc, và do đó ông thường được xem là người sáng lập ra quân đội này. Trên cương vị này, Chu lãnh đạo lực lượng Trung Quốc tiến hành chiến tranh "kháng Mỹ, viện Triều" năm 1951-53.