I 1994 ble han en av de tidlige medlemmer av Taliban.. Etter at Taliban klarte å erobre provinsen Farah, fikk Akhundzada ledelsen for bekjempelsen mot kriminalitet i dette området. Senere ble han utpekt til leder av Talibans militærdomstol i provinsen Nangarhar øst i Afghanistan.