Mellon praktiserte sin filantropi i hele sin karriere, og gav bort store deler av formuen sin til støtte for kunst og forskning. I 1937 gav han blant annet finansiell støtte til byggingen av National Gallery of Art, og ga i tillegg bort store deler av sin personlige kunstsamling til museet. Mellon døde den 27. august 1937 i Southampton i Long Island, og ble begravet ved Washington National Cathedral.