Tras el asesinato de Massoud en 2001 pasó a ser una de las tres figuras más importantes de la Alianza del Norte y posteriormente del Gobierno Transicional Afgano junto a los ministros anteriores Mohammed Fahim y Yunus Qanuni, siendo los tres considerados los líderes de la facción de etnia tayik, aunque la madre de Abdullah madre es de etnia pashtun.