La carrera temprana de Abdalah consistió en servir con su padre Táhir ibn Husayn en la pacificación de las tierras del califato abasí después de la guerra civil entre Al-Amín y Al-Ma'mún. Más tarde sucedió a su padre como gobernador de Al-Yazira, con la tarea de derrotar a los rebeldes dirigidos por Nasr ibn Shabath, que se rindió en 826. Luego fue enviado a Egipto, donde terminó con éxito un levantamiento dirigido por Abd Alah ibn al-Sari. También recuperó Alejandría, que había sido tomada por los andalusíes refugiados siete años antes; después de su expulsión, los refugiados se dirigieron a la Creta bizantina, estableciendo el dominio musulmán allí por primera vez.