Nguyễn Văn Linh
Hoạt động tại miền Nam

Sau đó, ông vào hoạt động tại Sài Gòn và là cấp dưới trực tiếp của Bí thư Sài Gòn thời kì này - bà Nguyễn Thị Minh Khai.
Năm 1939, ông tham gia Ban Chấp hành Đảng bộ Thành phố Sài Gòn, sau đó được Đảng điều ra Trung Kỳ để lập lại Xứ ủy Trung kỳ.
Năm 1941, ông bị bắt ở Vinh, bị kết án 5 năm tù và bị đày ra Côn Đảo lần thứ hai.
Đến năm 1945, ông hoạt động ở miền Tây Nam Bộ, sau đó ở Sài Gòn - Chợ Lớn với cương vị Bí thư Thành ủy, Bí thư Đặc khu ủy Sài Gòn - Gia Định.
Năm 1947, Nguyễn Văn Linh là Ủy viên Xứ ủy Nam Bộ, đến 1949 là Thường vụ Xứ ủy Nam Bộ.
Từ 1955 tới 1960, ông là Bí thư Đặc khu ủy Sài Gòn-Gia Định.
Từ 1957 đến 1960, ông là Quyền Bí thư Xứ ủy Nam Bộ.
Năm 1960, tại Đại hội Đảng lần thứ III ông được bầu vào Ban Chấp hành Trung ương Đảng, làm Bí thư (1961 - 1964), rồi Phó Bí thư Trung ương Cục miền Nam. Ông có những đóng góp không nhỏ đối với chiến thắng của Việt Nam Dân chủ Cộng hòa trong cuộc chiến tranh Việt Nam.
Trong Chiến tranh Việt Nam, Nguyễn Văn Linh là Tổng Bí thư Đảng Nhân dân Cách mạng Việt Nam miền Nam Việt Nam, điều này đã chứng kiến ​​ông chỉ đạo cuộc kháng chiến du kích chống lại chính phủ đồng minh của Hoa Kỳ ở đó, nhưng hầu hết các nhiệm vụ của ông là tổ chức hơn là quân sự. Ông cũng chuyên tuyên truyền, nghiên cứu và cố gắng gây ảnh hưởng đến nền chính trị Hoa Kỳ có lợi cho Việt Nam Dân chủ Cộng hòa. Ông đã huấn luyện các điệp viên bí mật đặc biệt của Việt Cộng thâm nhập vào các tổ chức chính phủ ở Sài Gòn. Năm 1968, Nguyễn Văn Linh chỉ đạo Tết Mậu Thân chống lại Việt Nam Cộng hòa. Cuộc tấn công bất ngờ này vào hầu hết các thị trấn và thành phố của miền Nam Việt Nam là một bước ngoặt của Chiến tranh Việt Nam.  Sau khi Chiến tranh Việt Nam kết thúc và Việt Nam tái thống nhất năm 1975, Nguyễn Văn Linh được giới thiệu vào Bộ Chính trị của Đảng Cộng sản và trở thành bí thư thành ủy thủ đô Sài Gòn.
Năm 1976, khi Thành phố Sài Gòn đổi tên làm Thành phố Hồ Chí Minh, ông được cử làm Bí thư Thành ủy Thành phố Hồ Chí Minh.
Tháng 12 năm 1976, tại Đại hội Đảng lần thứ IV ông được bầu vào Ban Chấp hành Trung ương và Bộ Chính trị, Ban Bí thư Trung ương, giữ chức Trưởng ban Cải tạo Xã hội chủ nghĩa Trung ương, Trưởng ban Dân vận Mặt trận Trung ương, Chủ tịch Tổng Công đoàn Việt Nam đến 1980.
Ông ủng hộ sự chuyển đổi chậm rãi của khu vực phía nam tư bản trước đây của đất nước, khiến ông xung đột với các đồng nghiệp trong đảng của mình. Vào cuối những năm 1970, mặc dù được coi là một chính trị gia đầy triển vọng của đảng, ông đã nhiều lần xung đột với Lê Duẩn, người kế nhiệm Hồ Chí Minh làm lãnh đạo đảng. Ông Duẩn là người có tư tưởng về chính sách kinh tế bảo thủ đã tranh cãi với ông Linh khiến ông không thể thăng tiến xa hơn trong hệ thống chính trị. Năm 1982, ông thậm chí còn bị cách chức khỏi Bộ Chính trị. Theo bạn bè, ông Linh từ chức sau một cuộc tranh cãi về tương lai của miền Nam Việt Nam, trong đó ông bảo vệ vốn tư nhân.
Trước Đại hội Đảng lần thứ V, Nguyễn Văn Linh xin rút ra khỏi Bộ Chính trị, trở lại làm Bí thư Thành ủy Thành phố Hồ Chí Minh (1981), thay ông Võ Văn Kiệt ra trung ương. Về sau, ông giải thích với ông Võ Trần Chí người sẽ giữ cương vị Bí thư Thành ủy: "Bởi vì mình thấy các anh ấy không muốn mình ở đó nên mình xin rút...". Ông trở thành một nhân vật quan trọng trong lịch sử của thành phố này.