Belmokhtar regagne l'Algérie à la fin de 1992 ou au début de 1993, au moment où le pays est plongé dans la guerre civile, et en juin, il rentre dans sa ville natale. Le sud du pays a jusqu'alors été épargné par les combats, mais Belmokhtar fonde un groupe appelé la "katiba As-Shahada", ou Brigade du Martyre, affiliée au Groupe islamique armé (GIA).