哥伦比亚大学校友爱德华·哈克尼斯出资建设，始建于1931年，于1934年竣工。爱德华同时还出资赞助了哈佛大学和耶鲁大学的部分校舍。巴特勒图书馆最初被命名为“南楼”（South Hall）。1946年，为了纪念于1945年退休的哥伦比亚大学校长尼古拉斯·默里·巴特勒而以“巴特勒”重新命名。同时，巴特勒校长也是最早提出要在劳纪念图书馆基础上新建一座图书馆的人。 在1995年到2009年期间，巴特勒图书馆经历了多次大修和改善。2018年，图书馆受到学运人士的抨击，唿吁要在校园内“去殖民化”，并提出要替换校园