Como a Segunda Intifada se enfureceu, Barghouti tornou-se cada vez mais popular como um líder do braço armado do Fatah, o Tanzim, visto como uma das principais forças que lutam contra as Forças de Defesa de Israel. Barghouti levou marchas para postos de controle israelenses, onde ocorreram tumultos contra soldados israelenses e estimulando palestinos em discursos em funerais e manifestações, a apologia ao uso da força para expulsar Israel da Cisjordânia e da Faixa de Gaza. Ele afirmou que, "Eu, e o movimento Fatah a que pertenço, se opõem veementemente os ataques e os ataques a civis dentro de Israel, o nosso futuro próximo, me reservo o direito de me proteger, para resistir à ocupação israelense do meu país e de lutar pela minha liberdade e disse: "Eu ainda busco a convivência pacífica entre os países iguais e independentes de Israel e da Palestina com base na retirada total dos territórios palestinos ocupados em 1967" Durante a segunda intifada Barghouti foi acusado por Israel de ser um membro sênior da Brigadas de Al-Aqsa, uma organização que realizou vários ataques e atentados suicidas contra civis dentro e fora de Israel propriamente dito, e foi acusado de ter dirigido alguns desses atentados pessoal.