Tras la caída del gobierno de Rabbani y el ascenso de los talibán al poder, Masud se convirtió en el líder militar de la Alianza del Norte, una coalición de varios grupos contrarios a los talibán, que controlaban la mayor parte del país, mientras las fuerzas de Masud se vieron obligadas a retirarse al norte de Afganistán.