Ассоциация выступила против традиционных религиозных структур суфийских орденов. Улемы стали играть важную роль в алжирской политической и религиозной жизни, что вызвало беспокойство французских колониальных властей. В 30-х годов у Ассоциации алжирских мусульманских улемов было 1500 членов и она имела около 100 учреждений в Алжире. Французская колониальная администрация увидела в лице ассоциации потенциальную угрозу, поэтому в 1933 году ассоциация была запрещена французскими властями. Местным чиновникам было предписано пресекать деятельность улемов и коммунистов. Взамен улемов были учреждены консультативные комитеты богослужения. Однако такие действия французских властей вызвали лишь подъем авторитета улемов. В 1937 году члены «Алжирского мусульманского конгресса» вошли в состав Ассоциации алжирских мусульманских улемов. В 1938 году деятельность ассоциации пытались вновь ограничить с помощью репрессивных законов для религиозных школ. 16 апреля 1940 года в Константине умер лидер ассоциации Бен Бадис. Во время Второй мировой войны, несколько членов организации были арестованы по обвинению в коллаборационизме. В 1954 году организация работала в 181 медресе с около 40 000 студентами. После начала Войны за независимость Алжира, организация была запрещена французской колониальной администрацией. Имущество Ассоциации алжирских мусульманских улемов было конфисковано французскими властями. В 1956 году Ассоциация алжирских мусульманских улемов поддержала Фронт национального освобождения. После обретения Алжиром независимости многие бывшие кадры из Ассоциации алжирских мусульманских улемов вошли в систему образования этой страны. В 1962 году часть улемов пыталась возродить организацию на консервативной основе.