Hans største velgjørenhetsbragd var trolig byggingen av biblioteker. Fra 1883 til sin død 1919 grunnla han 1689 allmenne bibliotek i USA, og ytterligere 820 i flere deler av det britiske imperium. I 1919 fantes det 3500 allmenne biblioteker i USA, hvorav nesten halvparten var bygd ved hjelp av Carnegies penger.