Sewaktu pendudukan Jepang di Sumatra Barat, Rahmah memimpin "Haha No Kai" di Padang Panjang untuk membantu perwira "Giyugun". Pada masa perang kemerdekaan, ia memelopori berdirinya TKR di Padang Panjang dan mengerahkan muridnya ikut serta melawan penjajah walaupun dengan kesanggupan mereka dalam menyediakan makanan dan obat-obatan. Pada 7 Januari 1949, ia ditangkap oleh Belanda dan ditahan. Dalam pemilu 1955, Rahmah terpilih sebagai anggota DPR mewakili Masyumi, tetapi tidak pernah lagi menghadiri sidang setelah ikut bergerilya mendukung Pemerintahan Revolusioner Republik Indonesia (PRRI).