Jihadismi perustuu jihadiin, joka on kuulunut islamiin jo sen alkuajoista alkaen. Koraanin Medinan-aikaisissa suurissa käsitellään usein jihadia eli profeetta Muhammedin johtaman nuoren muslimivaltion puolustautumista ulkoisia hyökkääjiä vastaan ja valtakunnan alueen väkivaltaista laajentamista islamin levittämiseksi. Nykyajan jihadistit korostavat fyysisen taistelun tärkeyttä jihadin toiseen merkitykseen, muslimin sisäiseen kamppailuun nähden. Abdallah Azzam korotti jihadin muslimin tärkeimmäksi velvotteeksi heti islamin uskoon tulon ja uskontunnustuksen lausumisen jälkeen. Hänen jälkeensä toiminut Anwar al-Aulaqi julisti, että edes hyökkäyksellisen jihadin eli valloituksen ja islamin levittämisen julistamiseen ei tarvita maallista johtajaa vaan ainoastaan Jumala. Afganistanissa jihadistit kävivät vielä puolustuksellista jihadia miehittäjää vastaan. Kun Yhdysvaltain vääräuskoiset sotajoukot oli päästetty 1990-luvun alussa Saudi-Arabiaan ajamaan Kuwaitia miehittänyt Irakin johtaja Saddam Hussein takaisin, sen ja monen muun Yhdysvaltain, muiden länsimaiden ja YK:n toimen johdosta Osama bin Laden oikeutti hyökkäyksellisen jihadin käytön itsepuolustuksena julistamalla vuonna 1996 sodan Yhdysvalloille. Bin Laden oikeutti myös iskut läntisen maailman siviilejä kohtaan, koska muslimitkin olivat kaikkialla maailmassa läntisen maailman hyökkäyksen kohteena. Siitä alkaen jihadistit ovat katsoneet terrorihyökkäyksensä olevan oikeutettua puolustuksellista jihadia. Monet salafiajattelijat eivät ole hyväksyneet tällaista puolustuksellisen jihadin käsitteen venyttämistä.