Etter knappe fire måneder i embedet ble han skutt i ryggen med to kuler den 2. juli 1881 av en juristen Charles J. Guiteau på en jernbanestasjon i Washington, D.C.. Han lå dødelig skadet inne i Det hvite hus i flere uker. Alexander Graham Bell, kjent som oppfinneren av telefonen, forsøkte å finne kulen ved hjelp av en primitiv metalldetektor som han selv hadde oppfunnet, men mislyktes, ettersom Garfield lå i en seng som uten deres viten inneholdt et stålnett, noe som fikk maskinen til å feilreagere.