Ia adalah putra dari dari pasangan Abuya Muhammad Dimyathi Bin Muhammad Amin al-Bantani dan Nyai Hajjah Asma' Binti K.H. 'Abdul Halim al-Makky, serta seorang istri yang bernama Ashmah binti Abuya Jasir. Ashmah binti Abuya Jasir pada era 1948 dipertemukan saat Abuya Dimyati menempa ilmu di Kadupeusing yang magis.