После одобрения Конгресса в 1886 году строительство здания заняло 11 лет. Здание открыло свои двери публике 1 ноября 1897 года и получило широкое признание в качестве национального памятника. Название здания было изменено 13 июня 1980 года в честь бывшего президента США Томаса Джефферсона, который был ключевой фигурой при создании Библиотеки в 1800 году. Джефферсон предложил продать свою личную коллекцию книг Конгрессу в сентябре 1814 года, спустя месяц после того, как британцы сожгли капитолий в войне 1812 года.