Lama sebelum Malaya jatuh ke tangan Jepang pada 1942, beberapa Tionghoa Malaya mengecam Jepang, karena Perang Tiongkok-Jepang Kedua (yang dimulai pada 1937). Pada 18 Desember 1941 tak lama sebelum Kejatuhan Singapura, Inggris dan PKM, yang awalnya bermusuhan, bersepakat untuk bekerjasama melawan Jepang di Malaya. Inggris membebaskan para anggota PKM yang mereka masukan ke penjara. Mereka juga memberikan beberapa anggota PKM pelatihan dalam persenjataan gerilya di Sekolah Pelatihan Khusus 101 di Singapura. Orang-orang tersebut bersembunyi di dalam negara tersebut untuk membentuk sebuah pasukan gerakan bawah tanah melawan Jepang. Meskipun berjumlah sedikit (sekitar 165), mereka merupakan salah satu bagian dari TAJRM yang dibentuk. Kebanyakan prajurit TAJRM berasal dari penduduk umum di Malaya, yang secara keseluruhan diduduki oleh Jepang setelah kejatuhan Singapura pada 15 Februari 1942.