Северный альянс
После гибели Ахмад Шах Масуда возглавил Северный альянс и стал его министром обороны. Фактически руководил боевыми действиями Северного альянса в 2001 году, которые завершились изгнанием талибов из Кабула. 13 сентября 2001 Фахим был официально представлен в Душанбе официальным лицам Ирана, России, Индии, Таджикистана, Узбекистана, срочно собравшимся на совещание по поводу обстановки в Афганистане. Сохранил пост министра обороны в правительстве Хамида Карзая. После переизбрания Карзая Фахим не смог войти в новый кабинет и покинул пост министра обороны в декабре 2004 года.