Родился в 1969 года в городе Буйнакске Дагестанской АССР. По национальности лакец. В 1990-х построил в Буйнакске пекарню и вместе с женой занимался хлебопечным бизнесом, однако в 1998 году продал пекарню. Утверждается, что был женат на двоюродной сестре одной из жён известного арабского террориста Хаттаба. В 1998 году увлёкся идеями ваххабизма, перебрался в Чечню к Хаттабу. Летом 1999 года принял активное участие в боевых действиях в Ботлихском и Новолакском районах Дагестана на стороне исламистов и вместе с ними отступил на территорию Чечни, где создал и возглавлял отряд боевиков, которые после обучения направлялись в Дагестан. Сам Халилов стал одним из ближайших соратников Хаттаба, возглавив так называемое «дагестанское оперативное направление» сепаратистов.