Trước khi tham gia hoạt động chính trị Sơn Ngọc Minh đi tu ở một ngôi chùa ở Phnôm Pênh. Năm 1943, Sơn Ngọc Minh tham gia cuộc biểu tình phản đế của 2000 sư sãi, phản đối chính quyền thực dân Pháp đã bắt giam sư sãi một cách vô cớ. Năm 1945 sau khi Đế quốc Nhật Bản đầu hàng, người Pháp mở cuộc tái chiếm Campuchia. Sơn Ngọc Minh đã bỏ thành thị về nông thôn, vận động nhân dân lập chiến khu chống Pháp. Tháng 3 năm 1948, ông thành lập Uỷ ban Dân tộc Giải phóng Tây Nam (gồm 4 tỉnh: Takeo, Kampot, Kampong Speu, Kampong Chhnang).