Tôn Cán Khanh sinh ngày 19 tháng 1 năm 1919 tại Lâm Truy, tỉnh Sơn Đông. Đầu năm 1938, ông tham gia Bát lộ quân. Ông gia nhập Đảng Cộng sản Trung Quốc cùng năm. Trong cuộc Chiến tranh Trung–Nhật lần thứ hai, ông chiến đấu với Lục quân Đế quốc Nhật Bản ở tỉnh Sơn Đông thuộc miền Bắc Trung Quốc. Sau chiến tranh, ông được chỉ định đến Đông Bắc Trung Quốc, nơi ông giữ chức Trung đoàn trưởng của Quân Dã chiến Đông Bắc rồi Tham mưu trưởng Sư đoàn của Quân Dã chiến thứ 4. Trong cuộc Nội chiến Trung Quốc, ông tham gia Trận đánh Lâm Giang, Chiến dịch Liêu Thẩm, Chiến dịch Bình Tân và Trận đánh đảo Hải Nam.