Rahmah El Yunusiyah
termasuk guru terawal, sementara Rahmah merangkap sebagai guru dan pimpinan. Mulanya terdapat 71 orang murid yang kebanyakan adalah ibu-ibu muda. Pelajaran diberikan selama 2.5 jam meliputi dasar pengetahuan agama, gramatika bahasa Arab, dan ilmu alat. Murid-murid duduk di lantai mengelilingi guru secara berkelompok. Guru-guru memakai buku-buku berbahasa Arab dan menerangkan
dengan bahasa Indonesia, sementara ilmu pengetahuan umum belum diajarkan pada tahun pertama. Oleh karena itu, Rahmah mengerahkan murid-muridnya bergabung dengan Persatuan Murid-murid Diniyah School (PMDS) untuk mendapatkan berbagai pengetahuan umum dan mengikuti berbagai kegiatan seperti kepanduan, organisasi, dan koperasi. Dengan hadirnya bagian untuk putri, Diniyah School
peninggalan Zainuddin berangsur-angsur hanya dihadiri oleh murid-murid putra, dan Madrasah Diniyah Li al-Banat yang didirikan Rahmah lebih dikenal sebagai Diniyah Putri.
Ketika Zainuddin meninggal secara mendadak pada 10 Juli 1924, banyak orang menyangka bahwa usaha yang baru dirintis Rahmah akan hilang di tengah jalan, sebagaimana dicatat oleh Isnaniah Saleh. Dalam suatu rapat pengurus Diniyah Putri yang diadakan oleh Rahmah beberapa hari setelah Zainuddin meninggal, majelis guru sepakat untuk meningkatkan sistem pengajaran Diniyah Putri lengkap dengan sarana. Pada 1925,
Rahmah menyewa rumah bertingkat dua di Pasar Usang untuk dijadikan ruangan kelas dan asrama Diniyah Putri. Ia mengupayakan sendiri mencari perlengkapan seperti bangku, meja, dan papan tulis. Sedikitnya 60 orang murid menempati asrama pada tahun pertama. Selain Diniyah Putri, Rahmah membuka program pemberantasan buta huruf untuk kalangan ibu-ibu yang lebih tua pada 1926 setelah
melihat kebanyakan mereka tak sempat mengenyam pendidikan formal. Kegiatan itu diikuti oleh 125 orang ibu-ibu pada mulanya, tetapi terpaksa dihentikan setelah Diniyah Putri binasa oleh gempa bumi sehingga sekolah itu menuntut perhatian sepenuhnya dari Rahmah.
Seiring banyaknya murid Diniyah Putri, Rahmah mengatur pembagian waktu belajar remaja-remaja perempuan pada sore hari dan ibu-ibu rumah tangga pada malam hari. Pada awal 1926, karena kapasitas asrama yang disediakan di tingkat dua gedung tidak mencukupi, pembangunan gedung baru mulai dilakukan seacara gotong royong. Dalam buku "Peringatan 55 Tahun Diniyah Putri" dicatat, para murid Diniyah Putri
bersama-sama pelajar dari Diniyah School dan Thawalib mengangkat batu kali dari sungai yang berjarak 2.5 km dari sekolah mereka untuk membangun pondasi gedung. Namun, gempa bumi berkekuatan 7.6 skala Richter mengguncang Padangpanjang pada 28 Juni 1926, meruntuhkan gedung lama beserta pondasi gedung baru yang dibangun. Nanisah, salah seorang guru, wafat karena tertimpa runtuhan bangunan.
Gempa bumi mengakibatkan kegaiatan belajar-mengajar Diniyah Putri berhenti. Gedung dan peralatan mengajar hancur. Bersama separuh penduduk Padangpanjang, seluruh murid Diniyah Putri mengungsi keluar kota. Ia menyaksikan orang-orang meninggalkan Padangpanjang "seolah-olah sekumpulan kafilah di gurun Sahara, berbondong-bondong membawa bebannya masing-masing." 40 hari setelah gempa bumi,
Rahmah beserta para guru mendirikan kelas darurat, dibantu oleh murid-murid Thawalib kembali secara gotong royong. Kelas dibangun di atas sebidang tanah wakaf dari ibunya, terbuat dari bambu dengan atap daun rumbia berlantaikan tanah. Sambil melanjutkan kegiatan belajar-mengajar di kelas darurat, para guru beserta para wali murid membentuk komite untuk mencari dana pembangunan
kembali gedung pembelajaran Diniyah Putri. Rahmah memimpin penggalangan dana ke dalam dan luar Minangkabau. Dari hasil penggalangan dana, pembangunan gedung permanen dapat dimulai pada Desember 1927 dan ditempati pada Oktober 1928. Gedung baru terdiri dari dua tingkat dan merupakan gedung utama yang masih berdiri sampai saat ini.
Diniyah Putri memiliki sedikitnya 200 murid pada 1928. Jumlah itu, sebagaimana dicatat oleh Deliar Noer, bertambah menjadi 300 pada 1933 dan 400 pada 1935. Seorang lulusan Diniyah Putri Aishah Ghani menyebut kehidupan Diniyah Putri sangat terkungkung dan diawasi secara ketat. "Mereka benar-benar mempersiapkan murid-murid perempuan menjadi perempuan, dengan mengajarkan menenun, ilmu
kerumahtanggan, dan membuat murid-murid mengetahui segala sesuatu dan memiliki rasa tanggung jawab." Pada 1935, Diniyah Putri membuka cabangnya di Jakarta yang membina tiga sekolah dengan bantuan beberapa pedagang asal Minangkabau dan lulusan lembaga pendidikan agama di Padangpanjang. Seiring meningkatnya kebutuhan tenaga pengajar, Rahmah membuka "Kulliyyatul Mualimat el Islamiyyah" (KMI) pada 1
Februari 1937 sebagai sekolah guru untuk putri dengan lama pendidikan tiga tahun. Sebelum pendudukan Jepang, Diniyah Putri telah memiliki 500 murid pada 1941. Saat pendudukan Jepang, Diniyah Putri di Padangpanjang sempat menjadi tempat perawatan korban kecelakaan, sedangkan cabang Diniyah Putri di Jakarta ditutup.
Pada 1947, dalam rangka menyesuaikan pembagian jenjang pendidikan yang ada di Indonesia, Diniyah Putri dibagi ke dalam Diniyah Rendah dan Diniyah Menengah Pertama. Diniyah Rendah setara SD dengan lama pendidikan tujuh tahun, sedangkan Diniyah Menengah Pertama setara SLTP dengan lama pendidikan berdasarkan peruntukkannya. DMP-B dengan lama pendidikan empat tahun diperuntukkan bagi lulusan SD. Lulusannya
disetarakan dengan SLTP dan dipersiapkan untuk melanjutkan ke KMI atau perguruan lanjutan lainnya. Adapaun DMP-C dengan lama pendidikan dua tahun diperuntukan bagi tamatan SLTP yang tidak sempat mendalami agama dan bahasa Arab pada jenjang pendidikan sebelumnya. Lulusan DMP-C dapat melanjutkan pendidikan ke KMI sebagaimana lulusan DMP-B.
Lewat usahanya mendirikan Diniyah Putri dengan seluruh tenaga pengajar dari perempuan, Rahmah ingin memperlihatkan bahwa perempuan yang selama ini dipandang lemah dan rendah derajatnya dapat berbuat sebagaimana laki-laki. Rahmah menolak bantuan tenaga laki-laki untuk ikut menggalang dana pembangunan gedung yang hancur pasca-gempa 1927, mengatakan bahwa "buat sementara
golongan putri akan mencoba melayarkan sendiri pencalangnya sampai ke tanah tepi" sampai "tenaga putri tidak sanggup lagi menyelamatkan pencalang itu". Hamka mencatat, perwakilan Muhammadiyah di Padangpanjang pernah datang kepada Rahmah pada 1928, menganjurkan agar pengelolaan Diniyah Putri diserahkan kepada Muhammadiyah. Rahmah menolak tawaran tersebut, mengungkapkan bahwa dirinya "tetap percaya kepada kekuatan yang diberikan Allah kepada dirinya sendiri".
Kepemimpinannya di Diniyah Putri membuatnya sering berpergian ke luar daerah. Dalam rangka penggalangan dana, Rahmah melakukan perjalanan ke sejumlah daerah Minangkabau dan luar Minangkabau pada pengujung 1927. Dalam kunjungannya, Rahmah menemui beberapa tokoh pemimpin Muslim, menyampaikan cita-cita dan program Diniyah Putri. Di tiap-tiap daerah yang dikunjunginya, Rahmah berpidato di mimbar untuk
menggairahkan umat Muslim berkorban bagi pembangunan Islam, "terutama untuk putri-putri Islam mempelajari agama Islam yang mereka cintai". Kegiatannya ini telah membentuk dirinya sebagai orator sekaligus meluaskan keterkenalan Diniyah Putri di Sumatera. Dalam rangka pengembangan kurikulum, ia mengadakan studi banding melalui kunjungan ke sekolah-sekolah agama di Sumatera dan Jawa pada 1931.
Selain itu, ia banyak mengirim siswa-siswa tamatan Diniyah Putri untuk mengajar di berbagai daerah hingga Semenanjung Malaya. Dalam dua kali perjalanannya ke Semenanjung Malaya pada 1933 dan 1935, ia tercatat mengunjungi Pinang, Terengganu, Johor, Negeri Sembilan, Selangor, Perak, Pahang, Kelantan, dan Kedah. Di Sumatera, ia mengunjungi Kesultanan Siak menemui Sultan Siak Sri Indrapura. Dalam berbagai
kunjungannya, ia tampil memperkenalkan Diniyah Putri dan menghimpun dana kelanjutan pembangunan sekolah.