Pershing døde 15. juli 1948 av koronar hjertesykdom i Walter Reed Army Medical Center i Washington, D.C. Han ble begravet på æresgravlunden i Arlington.