В Первую чеченскую войну Бараев подчинялся полевому командиру Хизиру Алхазурову, но затем сформировал собственный отряд, который Зелимхан Яндарбиев назвал «Исламским полком особого назначения». В июне 1995 принял участие в рейде Шамиля Басаева на Будённовск. В 1996 году перешёл в подчинение арабскому наёмнику Хаттабу, активно поддержав его действия по насаждению «ваххабизма» и шариата в Чечне.