Mange ytterliggående hinduer mente han var for ettergivende og ville ha ham fjernet. Den 30. januar 1948 ble han etter sin daglige morgenbønn skutt med tre skudd i brystkassen av Nathuram Godse, som var medlem av en nasjonalistisk hinduorganisasjon. Gandhis siste ord var «Hē Ram», (Devanagari: eller, ), («Å Gud»). Han ble kremert i Delhi ved bredden av floden Jamuna. Dette stedet er nå et minnested over Gandhi.