书馆立下法源基础。诺伊斯后来成为它的行政机构，託管委员会的委员，供职50年才退休。哥伦比亚特区公共图书馆的第一座图书馆设在纽约大道西1326号。它后来迁往芒特弗农广场，由安德鲁·卡内基出资兴建的图书馆大楼里，现为华盛顿历史学会的所在地。1903年，老罗斯福总统出席了它的落成礼。卡内基的捐款后来也用在其它分馆的设立。1972年，总馆改迁进由路德维希·密斯·凡·德罗（）所设计，为黑人民权运动家马丁·路德·金恩成立的纪念图书馆里。