כתוצאה מפריצת מלחמת אפגניסטן בשנת 2001 וכיבוש המדינה בידי המערב (שכלל בעיקר את ארצות הברית וכוחות נאט"ו), מונה עבדאללה לשר החוץ בממשלת אפגניסטן הזמנית. בבחירות הראשונות שהתקיימו באפגניסטן בשנת 2004 היה עבדאללה מבין האנשים היחידים ששמרו על כוחם והתמנה שנית לשר החוץ. הוא התפטר כשנה לאחר מכן.