Belmokhtar ble interessert i jihad som skolegutt, og dro til Afghanistan og kjempet for den afghanske i den afghanske borgerkrigen, og dro så til sitt hjemland Algerie for å kjempe i Den algeriske borgerkrigen. Han mistet det ene øyet under behandling av eksplosiver, og har siden fått tilnavnet «den enøyde».