1975年、帰国してパンジシール渓谷に本拠地を築き、1979年のソビエト連邦のアフガニスタン侵攻後は反ソ連軍ゲリラの司令官となり、ソ連軍にしばしば大きな打撃を与えた。ソ連軍の大規模攻撃をも撃退し、「パンジシールの獅子」と呼ばれた。1988年5月よりソ連軍のアフガニスタンからの撤退が開始されると、マスードはソ連軍捕虜を自発的に解放し、ソ連軍の撤退を妨害しないことを約束した。このことはマスードに対するソ連側の心象を良くし、後にロシアが北部同盟を支援する動機ともなった。