Han døde i 1725, 73 år. John Wise Avenue, en vegseksjon av Route 133 i Massachusetts, er navngitt etter ham. Libertyskipet «SS John Wise», som ble sjøsatt den 14. juni 1942 og ble skrapet i 1971, er også navngitt etter ham.