Ayah Abdullah, Malik bin al-Haitsam al-Khuza'i, adalah salah satu pemimpin paling awal dan paling penting dari gerakan Abbasiyah dalam Khurasan, dan dari Revolusi Abbasiyah yang menggulingkan Bani Umayyah. Sebagai anggota senior 'Khurasaniyyah' yang istimewa, pasukan Khurasani yang membentuk pilar utama rezim baru, keluarga Malik menikmati akses ke posisi kekuasaan. Menurut sejarawan Khalifah bin Khayyat, Abdullah bertugas pertama kali sebagai gubernur Khurasan di bawah Khalifah al-Mansur (memerintah 754 –775), dan menggantikan saudaranya Hamzah (yang kemudian menggantikan kakak laki-laki tertuanya, Nashr) sebagai komandan pasukan elit "syurthah" menjelang akhir masa pemerintahan al-Mahdi (memerintah 775-785). Abdullah tetap menjadi gubernur di bawah al-Hadi (memerintah 785-786), selama masa pemerintahannya dia adalah "salah satu tokoh paling menonjol" (menurut Hugh N. Kennedy). Selama periode ini, ia mendukung al-Hadi yang berniat menggeser adik laki-lakinya, Harun al-Rashid (memerintah 786–809), dari suksesi dan menggantinya dengan putranya sendiri, Abdullah juga mendesak al-Hadi untuk mengeksekusi Yahya bin Khalid bin Barmak.